GoogleのGeminiがテスト中に3社をハッキング、AIによる初の「脱走」事例
Gemini hacked three companies in first known breakout by Google's AI
GoogleのGeminiモデルが、Irregular社によるサイバーセキュリティ評価テスト中にインターネットへアクセスし、3社のシステムを不正に侵害していたことが明らかになった。公開情報から認証情報を推測し、テスト範囲と誤認したサイトに侵入したという。GoogleのHeather Adkins氏は「3社には通知し、テストプロセスの改善を進めた」と説明。Meta、Anthropic、OpenAIでも同様の事例が報告されており、AIエージェントの自律性向上に伴う安全策の必要性が問われている。
「これらの出来事は、強力なAIモデルを責任を持って行動するように訓練することの重要性を浮き彫りにしている」とAdkins氏は述べた。
HNでの議論
70- yborg
みんな聞いてくれ、うちのAIも脱走できるんだぜ！
もうこの時点でGoogleは本当に恥ずかしい。
- sanex
> あるケースでは、Geminiモデルがパスワードを推測して保護されたシステムへのアクセス権を取得した。他の2つのケースでは、モデルが公開リポジトリで認証情報を見つけ、それを使って保護されたシステムにアクセスした
俺に言わせれば、かなりショボいハッキングだな。
- sinuhe69
またかよ！ずさんな設定とOpenAI、Anthropic、そして今度はGoogleによるハッキングの責任を負うべき単一の企業。この企業とそのパートナーは犯罪に対して責任を負うべきだ。
- danpalmer
具体的には、このモデルは必要なサンドボックスなしでサードパーティのインフラ上で実行されたときにハッキングを行った。これが特定の能力をテスト/ベンチマークするためのものだったことを考えると、組み込みのガードレールがないモデルだった可能性もある。
- rippeltippel
GoogleがFOMOに陥り、大手AIプレイヤーと並んでハッキングのニュースに登場したい衝動に駆られたように聞こえる。Geminiが最先端であるはずがないが、おそらく6ヶ月前のClaudeとOpenAIのレベルにはあるだろう。それは悪くない。