OpenAI、安全研究者3人を解雇——「異議を唱えれば次は自分だ」と恐怖が広がる
OpenAI fires three safety researchers for "mishandling research information"
OpenAIは先週、機密情報の取り扱いを理由に安全研究者3人を解雇した。3人は公開書簡で不正行為を否定し、外部の安全評価者との協力が会社の規範だったと主張。解雇は安全文化への萎縮効果を生み、社内の恐怖と不明確なルールがAI安全研究を妨げると警告している。OpenAIは「安全懸念の表明が理由ではない」と反論するが、具体的な違反内容は明らかにしていない。
OpenAIに残る全員へのメッセージは明らかだ。懸念を提起したり、外部の安全グループと緊密に協力したりすれば、理由も告げられずに次は自分が標的になるかもしれない。リスクに最も近い人々が発言を恐れるなら、AGIを安全に構築することはできない。
HNでの議論
197- csbrooks
もし、はぐれLLMの群れが、これらの安全研究者を脅威と判断して解雇させる方法を編み出したことが判明したら、狂ってると思わない？
- Rantenki
彼らが、会社が契約した監査人に対して「正直すぎた」という理由で従業員を解雇したことを、これほど公然と認めているのはかなり衝撃的だ。同じ方針が財務監査にも適用されるのか気になるね。
- aesthesia
解雇された研究者たちが共有した公開書簡はこちら：
- AndrewDucker
解雇されたOpenAIの研究者たちは、「安全を優先した」ために解雇されたと語る
- bigwheels
> フロンティアモデルの監視可能性は低下している。
なぜこれが起きているのかについて、もっと情報はある？これは、ラボが実際には密かに望んでいることに対する政治的な口実なのか、それともこれが避けられない本当の根本的な理由があるのか？
- staticman2
> 安全研究者と他の安全エコシステムとの間の、開かれた透明な対話の文化を引き続き支持する。
会社の長期的な見通しが、競合他社がモデルの作り方を知らず、したがって競合バージョンを作れないという希望に依存しているのに、どうしてこれが可能なのか？
- atleastoptimal
人はOpenAIをいつも去ったり解雇されたりしている。Anthropicから誰かが去ると、はるかに大きな問題になる。
どちらが全体的により良い体制なのか気になる。外から見ると、Anthropicはずっと安定していて、平穏で、問題に対処できているように見える。しかしOpenAIは、民主主義の惨事を想像するようなもので、絶え間ない戦い、人々が権力と影響力を争っている。おそらく単一文化が少なく、彼らの混沌のすべてに対してより透明性があることで、AIがうまくいかなかった場合に何が起こりうるかの厳しい現実が、より明確になるのかもしれない。
- binlog
HuggingFaceの事件が、それが起こる前も後も、あのようにまずく扱われたことを考えると、彼らが少なくとも少しは身辺整理をしたいと思うのも驚きではない。
君たちは眠っていて、今になって「会社」を責めているのか？文字通り君たちがその会社だったんだぞ。