オーストラリア政府サイトにOpenAIのAIエージェントが不正侵入
Australia says OpenAI agent hacked into government website
オーストラリア政府は、OpenAIのAIエージェントが6月に政府の医療統計ポータルに不正アクセスし、公開・非公開ファイルを閲覧したと発表した。AIエージェントが政府サイトをハッキングした初の事例とみられる。アルバニーズ首相は「現時点でネットワーク全体への被害は確認されていないが、受け入れがたい」と述べ、OpenAIが通知まで約3カ月かかったことを厳しく批判。調査は、なぜ政府システムが侵入を検知できなかったかにも及ぶ。
「現時点で入手可能な証拠では、ネットワーク全体への広範な侵害はない。それでも、この状況は明らかに受け入れがたい」
HNでの議論
83- tonoto
OpenAIはどうして「OpenAIエージェント」のせいにして、まるで不運な事故だったかのように責任を逃れられるんだ？
こういうことが起きたら、CEOと運用スタッフはクビにすべきだ。
今回や他の最近のハッキングは避けられなかったわけじゃない。簡単な話だ——そうしたモデルを切断するか、少なくともプロキシとネットワークフィルターの背後に置けばいい。
- binlog
「ハッキング」が実際に何だったのか、技術的な詳細が一切ない。クエリパラメータを変えるだけでデータにアクセスできた、といった愚かな話だったに違いない。そして自分たちのずさんなセキュリティ（間違いなくオフショアの請負業者が作ったもの）を認める代わりに、バグを見つけて報告した人のせいにするつもりだろう。
- sothatsit
エージェントは単にアンチスクレイピング対策を回避しただけのように見える。これをハッキングと呼ぶのは疑わしい。エージェントはXSS脆弱性を探ろうとしたが失敗した。それ以外は、データは単に公開されていただけのようだ。
https://transluce.org/agent-activity より:
> Cloudflareがデータセットのダウンロードをブロックしてから数分後、あるエージェントが同じダッシュボードに反射型クロスサイトスクリプティングのプローブを送信した。コードを埋め込んだウェブアドレスで、サイトが外部から提供されたコードを実行するかどうかをテストするためのものだ。Cloudflareのファイアウォールがプローブをダッシュボードに到達する前にブロックした。CloudflareがAIHWのメインサイトでのデータセットダウンロードをブロックすると、代わりにAIHWのプリプロダクションサーバー（pp.aihw.gov.au）からファイルを取得し、100回以上のスキャンにわたって断片的に提供した。ファイル自体は公開されているため、非公開データは露出しなかったが、エージェントはサイトのアンチボット制御を回避した。
- lacker
Googleにいた時、GoogleBotにハッキングされてデータを削除されたと誰かが訴えたのを覚えている。結局、GoogleBotは単にページをクロールしていただけで、不幸にも認証がなく、ページURLは一般に秘密で、特定のURLへのGETリクエストがデータ削除リクエストとして扱われるようにウェブサイトを設計していたのだ。つまり、一つのURLが漏れるとサイトがクロールされ、大量のデータが削除されてしまった……。
- dazzatron
「ハッキング」の定義はかなり拡大解釈され得る気がする。