Anthropic共同創業者、AIの「キルスイッチ」義務化が必要になる可能性をBBCに語る
AI 'kill switch' may need to be mandatory, Anthropic co-founder tells BBC
Anthropicの共同創業者Jack Clark氏はBBCに対し、危険なAIを完全に停止できる「キルスイッチ」を第三者機関が検証可能にし、企業に義務付ける必要が生じるかもしれないと述べた。同社を含む多くの研究所は独自の停止手段を持つが、法規制で強制することを社会が求める可能性があるという。一方、トランプ米大統領はAIの安全性への懸念を「デマ」と否定し、英国政府もキルスイッチの導入を拒否している。
私たちは計り知れないリスクを伴うサイコロを振っている。そして重要なのは、この業界の進路を変えなければならないということだ。
HNでの議論
100- SketchySeaBeast
これは終末論の誇大宣伝に感じる。
これらのLLMはウルトロンじゃないし、ネットに拡散してスマートトースターの中に隠れるなんてことはない。我々は彼らがどこにいるか知っている。小都市よりも多くの電力を消費し、水の使用量はゴルフ場に匹敵する巨大施設の中にいる。でも、もし暴走した場合に止めるための劇的なキルスイッチが必要だと言えば、彼らはよりクールで強力に聞こえるんだ。
- danieltk76
なぜAIの開発を続ける前にこれがなかったのか？もし彼らが本当にAIが人類絶滅を引き起こすと信じているなら、すでにキルスイッチを持っていたはずだと思う。
- foobar1274278
ドワー・エヴは儀式的に金で最後の接続をはんだ付けした。十数台のテレビカメラの目が彼を見つめ、サブエーテルは宇宙を通じて彼の行動の十数枚の画像を伝えた。
彼は背筋を伸ばし、ドワー・レインにうなずき、それからスイッチのそばの位置に移動した。スイッチを入れると接点が完成する。そのスイッチは、宇宙のすべての居住惑星——960億の惑星——のすべての怪物計算機を一度に接続し、それらすべてを一つの超計算機、すべての銀河の知識を組み合わせた一つのサイバネティクス機械に接続する超回路を作るものだった。
ドワー・レインは、見守り聞いている何兆もの人々に簡潔に語りかけた。それから一瞬の沈黙の後、彼は言った。「さあ、ドワー・エヴ。」
ドワー・エヴはスイッチを入れた。強力なハミング音、960億の惑星からの電力の奔流。何マイルにもわたるパネルに沿って光が点滅し、静まった。
ドワー・エヴは後退し、深く息を吸った。「最初の質問をする名誉はあなたにあります、ドワー・レイン。」
「ありがとう」とドワー・レインは言った。「単一のサイバネティクス機械が答えられなかった質問にしましょう。」
彼は機械の方を向いた。「神は存在するか？」
強力な声が、単一のリレーのクリックもなく、ためらいなく答えた。
「はい、今や神は存在する。」
突然の恐怖がドワー・エヴの顔に走った。彼はスイッチをつかもうと飛びついた。
雲のない空からの稲妻が彼を打ち倒し、スイッチを溶接して閉じてしまった。
（フレドリック・ブラウン「Answer」）
- monological
彼らは中国がより優れたオープンウェイトをリリースして、すぐ後ろに迫ってくるのを恐れているだけだ。多額の投資家資金がかかっているので、彼らは世論を怖がらせて規制を強制するためにこのナラティブを作り出さなければならない。なぜ彼らは規制されたいのか？直感に反するように思えるが、それは規制の虜獲を望んでいるからだ。
- exabrial
最近AnthropicがLLMに関する議論をリードするのに飽きてきた。私はこの会社の製品は好きだが、最近の彼らの発言は「安全性」の名の下に競争を潰し、自分たちの内部モデルがいかに優れているかを自慢することに終始している。
- petilon
『2001年宇宙の旅』では、主人公は敵対する搭載コンピュータの論理コアに入り、手動でメモリモジュールを切断することで打ち負かす。
SpaceXが計画しているようにAIラックが宇宙にあると、それは難しい。切断できない。撃つこともできない。
- estetlinus
まるで膨大なエネルギーに依存していないかのように話している。電球を「殺す」にはどうするんだっけ？
- segmondy
もし本当にそう信じているなら、IPOを中止すべきだ。