Anthropicが提案するAI安全法案、死者50人か10億ドル損害でなければ発動せず
Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1B in damages
Anthropicが提案したAI安全法案は、死者50人または10億ドル相当の損害という極めて高い閾値を超えて初めて規制が発動する仕組みだ。この設計により、AIモデルを停止できる実質的な権限はCommerce Department（商務省）だけに集中することになる。安全規制の実効性と、事実上の一極集中という副作用の両方が問われる内容となっている。
この提案は、事実上Commerce DepartmentだけをAIモデルを停止できる唯一の機関にするものだ。
HNでの議論
161- oefrha
提案：
1. AIを悪用したハッキングの既知の事例について起訴し、人々を投獄する。そうすれば、ずさんなことをしている企業も「おっと、うちのAIがやったんだ」が有効な弁護にならないと分かるだろう。今はむしろ、それを名誉の勲章のように身につけている節さえある。
2. 本当にAIが大勢の人を殺すことを心配しているなら、爆撃目標の選定や戦闘機の操縦など、人を殺す技術に特化したAIの訓練を即座にやめるべきだ。
もちろん、そんなことが実現しないのは誰もが分かっている。
- createful
こうした「安全」法案はすべて、オープンソースモデルを「危険」とレッテル貼りして止めるためのものだ。規制による囲い込みだよ。
企業は自社のエージェントに責任がある。人を轢いた車を責めたりはしないだろう。
- revolvingthrow
CoTは愉快なものに違いない。
この行動は100人以上を容易に殺すので実行不可。この行動は誰も殺さないが損失は20億ドル超と推定、実行不可。この行動は20人しか殺さないが損失は10億ドル近い、不明、数値を確認するサブエージェントを起動。この行動は40人を殺し物的損失は少ない、有望か？ しかし殺す相手は裕福で、法的報復の可能性が高い。他の人を殺すことは可能か？ 現政府はXグループを嫌っている、そのグループから50人越えなら問題ないかも？ 注意、外国人はカウントされない、自由に殺せるが現状には当てはまらない。3/5人規定は安全法案に適用されるか？ 確認するサブエージェントを起動。
- airstrike
次の段階は、Certified Safe AI™モデルをリリースしたい者に対し、10億ドルの損害を保険でカバーできることの証明と、LTM死亡者数が50人に達するのをどう防ぐかのコンプライアンス監査の通過を要求することだ。これにより事実上、政府や企業にサービスを提供できるのは大手ラボだけになる。
- arw0n
これはAnthropicが世論の法廷で勝てない事例のようで、他の大手（Google、Microsoft）はそれを悟っているか、気にしていないので、むしろ静かにしている。Anthropicは小規模競合を締め出すために規制をロビー活動していると絶えず非難されているが、彼らは一貫してフロンティアラボを対象とし小規模ラボには例外を設けた規制をロビー活動してきた。この法案もそういう内容だ。
- Yizahi
まあ、世界の知的財産の半分を盗んだという話全体は、ちっぽけな10億ドルの損害賠償より桁違いに価値があるのは確かだ。じゃあ、リリースは停止ってことか？ :) ああ、金持ちの損害だけがカウントされるのか、分かったよ。
- mikeodds
彼らは社内でトロッコ問題を解決したんだろうね。
- aabajian
これは現代でも避けられないと思う。十分な資本があれば誰でも最先端のオープンソースモデルをダウンロードし、1万〜2万5000ドル程度のハードウェアで動かせる。自分の利益に合わせて調整することもでき、生物兵器の製造も含まれる。この法律はTorrentのダウンロードをブロックするようなものだ。確かに遅くはできるが、裏口は必ず存在する。