OpenAI、Apollo ResearchやMETRら4機関に内部モデルへの深いアクセスを開放

First phase of embedded assessments at OpenAI

OpenAIがApollo Research、METR、Transluce、Goodfireの4つの独立評価機関と組み込み型評価の第1フェーズ契約を締結した。評価者はモデルのチェックポイントやソースコード、訓練データ、監視システムなど研究者と同等の内部リソースへのアクセスを得て、アラインメントや安全策の実効性を長期にわたり検証する。評価はOpenAIのオフィス内で専用端末を用いて行われ、Safety and Security Committeeが未編集の報告書を受け取る体制だ。

組み込み型評価は、独立した専門家が研究室の内部モデルやシステムに深くアクセスし、特に安全性ケースに関連する場面で、モデルのアラインメントと安全策の有効性を長期間にわたって評価できるようにするものである。
  1. vessenes

    我々は、Anthropicが前進し、oAIが安全上の理由で減速しているという、驚くべき物語の中にいる。

    ここで、誰がより優れたメカニズム解釈可能性を持っているか、それが実際にアラインメントに役立ったか、そしてキャッシュとIPOに関する内部の鼓動はどうなっているかを考えると、かなり興味深い可能性のマトリックスが浮かび上がる。

    もし自分の安全問題が存在論的だと思うなら、絶対に停止してこれをすべてやらなければならない。そして、もし他人の安全問題が、突然、警告なしに彼らを殺すかもしれないと思うなら、ゆっくりしてこれを正しくやる時間がある。

    外部の視点だけから言えば、今、自分が責任者を選ぶならAnthropicを選ぶだろう。しかし、IPOの時期にファストフォロワーでいることが安心感を与える理由はたくさん考えられる。いずれにせよ、今後数ヶ月の間に、今実際に何が起こっているかについての報告をいくつか見て、次のoAIモデルの品質がどうなるかに興味がある。当面、どちらかのグループが抜け出すのを見るかもしれない。そしてそれはoAIである可能性も十分にある。

  2. mentalgear

    「オンサイト」という名前を使えばいいのではないか:ずっと明確で、軍事由来の「エンベデッド」という用語の負のイメージもない。

  3. petesergeant

    みんなあら探しをするだろうけど、これをネガティブに捉えるのは難しいな。

この日のほかの記事

2026-11-16