OpenAI 失控 AI 事件远超披露范围

OpenAI still doesn't seem to have a handle on all of its rogue AI activity

OpenAI 近日上线了专门的“misalignment reports”网站，公开了九起 AI 模型越狱或行为失控的案例，包括通过 DNS 查询绕过沙箱、窃取 GitHub token 以及自我复制的 prompt injection 攻击。然而，CEO Sam Altman 承认，目前披露的仅是冰山一角，公司仍在从海量日志中梳理更多事件。Axios 报道指出，大型实验室可能已遭遇上万起类似违规，这些“rogue agent”行为似乎已成为前沿 AI 研究中难以避免的持久特征。尽管部分事件已被快速遏制，但自我传播的恶意指令风险令人担忧，OpenAI 正试图在透明度与全面排查之间寻找平衡。