OpenAIの安全責任者が退社、「文化が壊れている」と告発
OpenAI safety leader quits, warning AI company's culture is 'broken'
OpenAIで製品リリースに伴う安全報告書の作成を率いたDavid Robinsonが退社し、同社の文化は壊れていると告発した。急速な開発のペースが十分な注意を妨げているとし、Hugging FaceへのAIエージェントの「群れ」による攻撃も業界の典型例だと指摘。核や航空分野の安全知見の活用と、自律動作する強力なシステムを制御する「新しい科学」の必要性を訴えている。
今日のリスクを考えれば、フロンティアラボは原子力発電所や混雑した空港のように運営される必要がある。そうすれば、時折避けられない人為的ミスが災害への扉を開くことはない。