OpenAI 唯一伦理学家离职且未获接替
OpenAI's Only Ethicist Reportedly Left Last Month
OpenAI 的首席伦理学家 Chloé Bakalar 据报道已于上月悄然离职，她在公司任职不足一年，此前曾在 Meta 担任首席伦理学家。令人关注的是，OpenAI 并未为她安排继任者，这意味着这家 AI 巨头目前可能已没有专职的伦理学家。这一人事变动发生在 OpenAI 安全团队近期频繁动荡的背景下，包括安全系统负责人 Johannes Heidecke 和 Joshua Achiam 的相继离开。尽管 OpenAI 官方回应称伦理考量已深度融入模型构建流程，但专职岗位的缺失引发了外界对 AI 安全治理的担忧。与此同时，CEO Sam Altman 近期对技术奇点的态度变得更加激进，称人类已身处其中，这与 Bakalar 此前关于大语言模型仅是预测机器、远未具备情感的谨慎观点形成鲜明对比。
我们离（AI 具备情感和感知）还远着呢。
HN 评论区
472- madrox
先在 Meta 当伦理负责人，转头又去 OpenAI 当伦理负责人。恕我直言，如果这都不算毫无用处的公关作秀，那我也真不知道什么才算了。
下一个会是谁？联合健康保险（United Healthcare）的伦理负责人？
- minraws
五年后，我很想读一本关于 AI 伦理发展史的书。
我的感觉是，这一领域正在发生根本性转变：从虚头巴脑的营销部门，转变为被期望对开发工作做出实质性贡献并证明其价值的部门。我预计伦理团队会构建对齐框架，以证明公司花费数百万美元和数月时间训练出的模型确实是妥善对齐的。如果他们做不到，一旦模型因伦理问题需要重新训练，那将造成巨大的时间和资金浪费。
那些在 AI 伦理领域混迹多年、以为自己的工作就是搞营销或发观点文章的从业者，可能正面临快速适应或退出该领域的抉择。
- wxw
> 此前，她是 Meta 的首席伦理学家。
她在 Meta 待了六年。我感觉到，除了“伦理部门只是公关噱头”之外，肯定还有其他因素在起作用。她不可能不清楚这一点。不幸的是，这篇文章在其他细节上着墨甚少。
- tancop
人们就是喜欢听故事。人们离开公司的原因五花八门，即使在风平浪静、毫无特别的寻常时期也是如此。而如今在前沿实验室担任高调职位，这两点都不符合。
- forestrywat
当整个公司都与你为敌时，这份工作肯定很难做。
- fsuts
就我的经验而言，公司雇佣伦理团队只是为了宣称“我们有伦理团队”。这个团队毫无话语权，没有影响力，也永远无法推动业务发展。他们会尝试，也会提出合理的建议，但公司只会说：“这要花钱……”然后拒绝采纳。
- bogzz
> AI 伦理引发的各种问题，其实也是人们几个世纪以来一直在追问的问题——Chloé Bakalar，OpenAI 前 AI 伦理负责人
这或许正是他们逼她走的原因。OpenAI 和 Anthropic 的整个商业计划和哲学都建立在一个理念之上：大语言模型（LLM）是一种独特的技术，其独特性在于，取决于谁掌控它，它可能给人类带来无限的伤害或福祉。因此，唯一理性的选择就是投入所有资源，率先实现通用人工智能（ASI），以便命令它阻止其他任何尝试。将 AI 与旧问题联系起来会破坏这一理念，因为这暴露了 AI 其实没那么独特。
另一个更可能的选项是，她提出了一些令人不适的问题，要么是关于由营利性实体构建 AI 的社会影响，要么是关于 AI 系统可能具有意识的可能性。
- jondwillis
首席运营官（COO）也刚刚辞职了。是巧合吗？