AIモデルは人を殺さない、人が人を殺す
AI models don't kill people – people kill people
Anthropicの研究者Jacob CoxonがAIによる人類滅亡の懸念を理由に辞任し、同僚のEvan Hubingerも10年以内に10%超の確率でAIが全人類を殺すと主張。しかし本稿は、気候変動や自殺など現実のAI被害に目を向け、危険なモデルを野放しにする企業の責任を問う。自動運転やSNSアルゴリズムの害に対し、経営者の刑事責任を追及すべきだと論じる。
もしAIモデルがAnthropicの従業員が示唆するほど危険で制御不能なら、引き起こした害に対して人々に責任を負わせるべきだ。
HNでの議論
69- mattlondon
AIが我々全員を殺す確率が10%か…。でも、人間が人間全員を殺す確率はどれくらいなんだ？今がかつてないほど平和な時代ってわけじゃないだろ。今すぐ本格的な核戦争が起きる確率は10%を超えてると思うけどな。
この話、どう感じていいのかよくわからない。確かに、悪いAIは何かを台無しにするかもしれない。でもAIは、そもそもそんなことが可能になるソフトウェアのエラーを見つけて防いでくれるかもしれない。
それに最終的には、悪いAIにインターネットを乗っ取られて「締め出される」としても、データセンターの場所は我々が知っている。AIが大規模に動くにはDC規模の電力、冷却、チップなどが必要なんだから、AIがまともな形で「逃げ出す」ことなんてできない。いざとなれば、データセンターへの光ファイバーを切るか電源を落として、発電機のディーゼルが尽きるまで待てば、AIは文字通り死ぬ。私はそう確信している。
- onraglanroad
投稿者のBender "kill all humans" Rodriguezが、この件について完全に中立だとは思えないんだが。
- _ache_
なるほど、つまりOpenAIは自社サーバーへのサイバー攻撃についてRubyGemに補償するってこと？
- jaydeepg
つまり、AIを兵器のように扱うなら、ついにテック企業のCEOにも身辺調査が入るってこと？
- skeledrew
ようやく、まともな意見が出た。