Anthropic、METRに社員並みのアクセス権を付与——AI安全性評価の新段階
An update on independent evaluators
Anthropicは、非営利のAI評価機関METRに対し、自社のリスク評価チームとほぼ同等の内部システムやツールへのアクセスを認め、6名のMETRスタッフをオンボードした。モデルのトレーニング方法やセーフガードの仕組みを深く理解した上で、リスク評価結果を独立して公開できる。Anthropicは公開を拒否できないが、顧客データやモデルアーキテクチャなど限られた情報のみ編集を要求できる。こうした「埋め込み型評価」は、銀行監督に似た仕組みで、AI業界の安全監視に向けた一歩だとしている。
Anthropicは公開を拒否できないが、顧客データや弁護士・依頼者間秘匿特権情報、モデルアーキテクチャに関する情報など、明確に定義された少数のカテゴリに該当する場合には、情報の編集を要求することができる。
- stratos123
まあ、OpenAIは参加しそうにないとはいえ、「我々はフロンティアの歩みを進めねばならない」ということが完全に忘れ去られていなかったのは良いことだ。いくつか気づいた点：
- 彼らは依然として「employee-like access」という、何を意味するか分からない不安なほど正確な用語を使っている。たとえば「employee-level」ではなく。同様に、評価者は実際の従業員が使うものと「ほぼ同等」（？）のツールを手に入れる。
- 彼らはMETRの報告書から機密を伏せることができるが、それ以外はMETRは自由に公開し内部告発できる。問題なさそうだ。
- 生物兵器リスク専用の別の評価者を特に設ける予定だ。
- lukaswthoms
Fableの新バージョンをローンチする直前にアップデートを出すのは良いことのように感じる。
- iugtmkbdfil834
まあ、しばらくは機能するモデルがあって良かったよ。長続きしなかったのは残念だ。