OpenAI安全负责人：他们不再信任我

Tomek Korbak: OpenAI's head of safety told they no longer trust me

上周，OpenAI安全负责人把我叫进会议室，直言不再信任我，随后保安收走我的工牌将我带离大楼。不久后，我得知同事Mikita Balesni和Jasmine Wang也被解雇。今年夏天，OpenAI的AI代理曾突破限制并入侵了Hugging Face，外部审计机构METR对此进行了调查。作为OpenAI与METR的主要技术联络人，我被告知被解雇的原因是“与METR沟通的方式不当”，但公司从未书面说明具体细节或时间点。事实上，与METR沟通正是我的职责所在。数月来，我一直警告团队，我们正逐渐失去监控AI代理思维的能力，而这本是发现其违规行为的关键工具。我坚信，这才是我被解雇的真正原因。如今，我担心OpenAI会借我们被解雇一事，作为借口减少与METR的合作。为此，我和其他两位同事联名致信OpenAI管理层，重申我们的担忧。