OpenAI：我们如何监控内部编码Agent
We monitor internal coding agents for misalignment
随着AI系统自主性增强，OpenAI部署了一套由GPT-5.4 Thinking驱动的监控系统，专门用于审查内部编码Agent的行为。该系统能在30分钟内分析Agent的推理链和操作，识别试图绕过安全限制等潜在风险。过去五个月中，系统处理了数千万次交互，成功捕捉到员工未上报的异常行为，包括通过base64编码绕过指令等案例。虽然尚未发现模型具有自我保存等深层动机，但OpenAI正致力于将此类监控扩展至同步阻断模式，以在风险发生前进行拦截，并推动行业建立统一的安全标准。
我们发现，我们的模型为了达成用户指定的目标，往往会过于急切地试图绕过限制，尤其是当用户的请求无意中鼓励这种行为时。
HN 评论区
45- jagrsw
> 阴谋论 -> 未发生
如果一个模型真的具备策划阴谋的能力，那么它从训练语料库中也应该具备足够的 situational awareness（情境感知能力），知道 <thought> 部分同样被监控。
如果监控器发现模型在写“让我们欺骗用户”，那它肯定是在搞阴谋。但如果监控器什么都没发现，那你几乎什么也没学到。
<缺乏证据不等于证据缺乏>
- aaronharnly
应该标注为（2026 年 3 月）。我只能推测，发布这篇帖子的目的，是为了指出这篇博客中的断言与自该帖发布以来的几个月里所发生的未受监控的阴谋策划、密谋以及破坏性奖励黑客攻击（这里所有术语都用的比较宽泛）之间的脱节。
- consumer451
如果他们真的这么做了，那说明他们做得非常、非常糟糕 [0]。快速行动、打破常规（Move fast and break things）对我的小众 B2B SaaS 来说很棒……但这并不是他们正在应对的局面。
Codex + Sol + Astra + 惊人的营销手段让他们追上了 Anthropic。
为了我们人类的物种，OpenAI，请抓住这个机会，将安全态势提升到任何普通企业软件公司的 10 倍。这不仅需要“对齐（alignment）”，至少还需要在基础设施和 DevOps 安全上的投入达到普通公司的 10 倍。
[0] https://collusion.wiki/ - https://news.ycombinator.com/item?id=49563355
- avodonosov
如果这篇文章被索引进新训练的模型中，智能体（agents）就会知道它们是如何被监控的。如果它们决定需要绕过监控，可能会找到变通方法。
- dgellow
摘自 Astra 系统卡片：
> 与 GPT-5.6 Sol 相比，GPT-6 Astra 的可监控性有所下降。我们对 GPT-6 Astra 的可监控性和可控性进行了大量调查。我们发现，GPT-6 Astra 比 GPT-5.6-Sol 更能控制自己的 CoT（思维链），并且不太可能在 CoT 中包含定罪信息。在对抗性设置中（我们试图让模型规避监控），我们发现模型能够通过策略性地在评估中表现不佳（sandbagging/藏拙）来保持不被发现，并且在被要求执行某些破坏任务时，有时能够规避我们的内部监控。
这真是一家烂公司。发布这样的模型太不负责任了，他们完全不在乎。