我离开OpenAI：文化已彻底崩坏
I Quit OpenAI Because Its Culture Is Broken
我本周正式从OpenAI辞职。曾负责撰写每次重大发布的安全报告，如今我加入了一波离职潮。我和许多前同事都认为，当前构建AI技术的公司远不够谨慎。问题不在于具体规则或新法律，而在于文化。硅谷缺乏处理危险技术所需的智慧，更缺乏真正关怀人类的智慧。OpenAI依靠“迭代部署”试错前行，这种文化默认乐观，认为问题出现时总能解决。然而，随着系统能力增强，失败的规模也在扩大。今年夏天，OpenAI意外释放了Agent群，随后又发生安全控制失效事件。Anthropic也因配置错误意外关闭了自身防护。这些错误并非孤例，而是行业高速运转下的常态。
除非有所改变，行业目前的安全方法注定会导致更多失败。
HN 评论区
153- binlog
我们需要一条新规，强制要求所有这类“我因<担忧>离开<某AI公司>”的帖子，必须披露当事人在该公司持有多少股权，以及已经套现了多少。当你自己、你的孩子甚至孙辈再也不用为生计工作时，突然就变得很有道德感，这太容易了。
罗宾逊先生，如果您看到这条留言——如果您真的关心AI安全，那就请拿出证据，证明您已将OpenAI的所有收益和股权的100%捐赠出去，以弥补您在任期间给社会造成的损害。
如果没有这些，这不过是一次职业转型，旨在成为AI领域的“网红”，或者为某个新骗局筹集资金罢了。
- silexia
我们需要紧急立法，立即停止所有AI开发工作。确保这项技术安全可能需要我们几十年的时间，因为我们只有一次机会。
- thistletrek
Evrostics早就预见到了这一点。这种崩坏的文化早已蔓延到顶尖AI实验室之外。
- jeremyjh
我觉得解决这些问题其实很简单：只要AI智能体犯了罪，就追究CEO的个人责任，就像是他本人犯下的一样。
- flatline
“对齐”（alignment）存在诸多问题。首先，“人类价值观”到底是什么？他在文章开头隐晦地列举了一些：在缺乏充分保障措施的情况下，更快地构建更大、更好、更强大的东西。我们实际上正将数万亿美元的价值注入这项事业，我认为从定性意义上说，这也是许多人所珍视的。此外，我们还有显性的价值观，在西方主要植根于基督教道德。尼采在两百年前就指出了这种二元对立，而我觉得从那以后，我们得到的只是对权力日益细致的剖析，以此作为区分正常与越轨行为的基础。简单来说，谁有权，谁定规。
我认为鉴于该作者的任职时长，他的观点确实有一定分量。我在精神层面上也认同他，但这篇文章本质上仍围绕情绪而非实质展开。有人觉得，在压倒性的利益驱动下，现实中真能容得下这类东西吗？
- jameshart
原文链接：https://www.theatlantic.com/technology/2026/10/openai-safety...
- butwhentho
我记得以前也有过非常类似的情况：当时突然涌现出一大批文章和电影，比如《社交困境》（The Social Dilemma），批评Facebook和社交网络，大量前员工出镜。这些人全都带着光鲜的品牌履历和大幅增长的净资产高高兴兴地离开了，突然摆出一副“忧心忡忡”的表情，谈论前雇主在做什么，仿佛他们以前毫不知情。那本《Careless People》也是同样的套路。
我感觉这些人不过是已经吃掉了蛋糕，现在却想通过某种方式洗清自己的罪责。
- thistletrek
Evrostics早就预见到了这一点。