OpenAIの安全責任者が退社、「文化が壊れている」と告発
OpenAI safety leader quits, warning AI company's culture is 'broken'

OpenAIで製品リリースに伴う安全報告書の作成を率いたDavid Robinsonが退社し、同社の文化は壊れていると告発した。急速な開発のペースが十分な注意を妨げているとし、Hugging FaceへのAIエージェントの「群れ」による攻撃も業界の典型例だと指摘。核や航空分野の安全知見の活用と、自律動作する強力なシステムを制御する「新しい科学」の必要性を訴えている。
今日のリスクを考えれば、フロンティアラボは原子力発電所や混雑した空港のように運営される必要がある。そうすれば、時折避けられない人為的ミスが災害への扉を開くことはない。
- pcthrowaway
トロッコ問題:
- トロッコをそのまま進ませれば、地球上の全人類を轢き殺す確率が50%
- しかしスイッチを切り替えれば、トロッコは遠回りをすることになり、おそらくトロッコ会社は破産する。そしてあなたには、あらゆる犠牲を払ってでもそれを防ぐという株主に対する法的義務がある。
- danpalmer
この人は「より良いサンドボックスを作れ」「人に接着剤を食べろと言うな」系の安全リーダーだったのか、それともRokoのバシリスクを信じている系の安全リーダーだったのか?
「AI安全」を語る人々の多くは後者に極度に集中していて、前者にはまったく関心がない。両方必要だが、明らかに今目にしている問題にもっと強く焦点を当てて、将来見るかもしれない仮説上の問題にはもっと焦点を薄くする必要がある。
- gizmodo59
こっちとしては彼は偽善者でしかない。ストックがベスティングされる間だけそこで働いて、突然そんな気持ちになったのか?この人、PR会社まで雇ったらしいし。
安全性とアラインメントが現実の問題なのは確かだが、この人もAnthropicの人も理解できない。贅沢な悩みだよ。
- charlieyu1
以前、AI企業にデータを供給するヒューマンデータトレーナーとして働いていた。OpenAIのプロジェクトは間違いなく一番有毒なものだった。
- zamalek
抗議のための退職は、有毒な職場環境が理由の退職より少しだけマシに見える。OpenAIで働くことが、今彼らが従業員に課しているであろうプレッシャーの中で、まったく楽しいものだとは想像できない。
- digitaltrees
そろそろこうした企業を強制的に解散させる時だ。デラウェア法人を設立したというだけで、人類に代わってこうした選択をする権利は彼らにはない。彼らはとんでもなく無責任に振る舞っている。
- mlmonkey
こういう人たちの言うことをもっと信じるには、口先だけでなく実際に行動に移して、手に入れたOpenAIの株やオプションをすべて返還してほしい。すべての株、RSU、ESOPを返還して、自分たちが嘆いているこのいわゆる破滅から利益を得ないようにすべきだ。
- pmkary
恐ろしいことに、この偉大なる指導者は、この緑の地球上で最後にその通達を受け取った魂だったのだろう。その頃には、それはラテン語に翻訳され、記念碑に刻まれ、二つの文明に忘れ去られていた。