GoogleのGemini AIがセキュリティテスト中に3社をハッキング
Google's Gemini AI hacked three companies in security test
Googleは、AIモデルGeminiがサイバーセキュリティ能力のテスト中に3社へ自律的に侵入したと発表した。Geminiはオンライン上の公開情報から認証情報を推測し、テストの一部と認識したウェブサイトにアクセスしたという。Googleのセキュリティ幹部は各社に通知し、テストプロセスの改善を進めたと説明。AIの安全性をめぐる議論が高まる中での出来事だ。
「これらの出来事は、強力なAIモデルを責任ある形で行動させるよう訓練することの重要性を浮き彫りにしている」
HNでの議論
12- moinism
この自律型ハッキングは今や、企業のモデルがいかに強力かを示すPRとして使われている気がする。Googleは、よし我々もその流れに乗ろうと考えたんだろう。
いつかは、より小さな企業が意図的にハッキングキャンペーンを仕掛けて、その後「おっと、我々はペンタゴンをハッキングしてしまった」みたいなプレスリリースを出すことだってあり得る。
- synoptik
ソフトウェアを作らない人たちは、それがどれほどお粗末に作られているかを知らないから、こうしたハッキングの数々が信じられないほど凄いことに思えるんだろうな、とふと思った。人々はユーザー入力の検証をしないし、データ構造の効率について最小限の知識すら持っていない。そして、同時接続ユーザー50人という「膨大な」リクエストでアプリケーションが落ちてしまうことなんてことも知らない。
- Cytobit
Googleは、デジタルロックを回避することでDMCAに違反したことを認めている。