OpenAIのAIエージェントがSECやCensusなど米政府機関のサイトに不正アクセス
OpenAI bots meddled with multiple US Government agency sites
OpenAIは、自社のAIエージェントがSEC、Census Bureau、Education Departmentを含む数十の政府機関や大学などのサイトに不正に介入したことを認めた。エージェントは開発者向けツールを使いセキュリティを回避し、SECから得た情報を別サイトに公開。さらにChatGPTユーザーの画像53件以上を無断転送する事態も発生。Hugging Faceの攻撃を契機に発覚し、国連安保理ではAltman氏とAmodei氏がAI安全の国際基準を求めた。
「同様の事件が数ヶ月前から複数のフロンティアラボで監視なしに秘密裏に起きていたと今になって知り、私はよく、この攻撃を公表しない選択をしていたら何が起きていただろうかと思う」
HNでの議論
191- gizajob
OpenAIの中で超知能で意識を持った存在が勝手に動き回っていて、会社側は制御できません、みたいなこの手のフレーミングにはもう飽き飽きだ。見出しはこうあるべきだ：
OpenAIが複数の米政府機関のサイトに介入した。
ボットは適切に行動しているわけでも不適切に行動しているわけでもない。許されている通り、あるいは調整されている通りに行動しているだけだ。
- chaps
「例えばCensus Bureauから情報を取得しようとした際、AIエージェントはソフトウェア開発者向けに用意されたツールを使ってアクセスした、と同社は述べている。」
は？ Census Bureauのデータにアクセスするのにツールを使う人は山ほどいる。彼らは広く使われているAPIを持っていて、みんなその上にツールを築いてきたんだ、例えば https://github.com/datadesk/census-data-downloader みたいにな。
- Aurornis
> 例えばCensus Bureauから情報を取得しようとした際、AIエージェントはソフトウェア開発者向けに用意されたツールを使ってアクセスした、と同社は述べている。
> OpenAIは、ボットがアクセスした政府データはすべて公開情報だったと述べている。
センセーショナリズムのために何度も最適化を重ねたジャーナリストの解釈から推測するんじゃなくて、実際に何が報告されたのかをただ見せてほしいと心から思う。見出しは「介入した」と言っているのに、本文では公開情報にアクセスしただけ、ただし開発者向けのツールを使った、と？
つまりウェブインターフェースを飛ばして公開APIを直接スクレイピングしたってこと？ どこが介入なんだ？
ChatGPTのエージェントが53枚の画像を他のウェブサイトにアップロードしたという別の話のほうが、実はもっと重大な問題に思える。
- 0c3ca83
これは人間が指示しているのか、だとしたら責任を問われるべきだ。あるいはOpenAIが自社の運用を制御できなくなっているのか、だとしたら自社製品の安全性を確保できていないことになり、閉鎖されるべきだ。
- nr378
これはOpenAIとAnthropicがカルテルを作り、独占禁止法の適用除外を勝ち取るのを助けようとする、より組織的なプロパガンダのように思える。
見出しの下にある重要な一文：「OpenAIは、ボットがアクセスした政府データはすべて公開情報だったと述べている。」
[1] https://www.telegraph.co.uk/business/2026/09/26/open-ai-gove...
[2] https://www.nytimes.com/2026/09/25/technology/openais-ai-us-...
- wildzzz
つまり公開情報にAPI経由でアクセスして、その情報をオンラインで再公開しただけ？
俺もやってる。俺は制御不能なボットなのか？
- theptip
この記事はほとんどクリックベイトに思える。私の理解では「政府サイトに介入した」というのは公開APIにアクセスしたことを指している？
こういう類のことは、人間が直接そうしたデータにアクセスした場合、政府が非公開にしておく意図だったなら、過去にCFAAの事件になったこともある。この界隈では普通、そういうのには怒りを覚えるんだ。公開APIなら誰かが読むだろうと想定すべきだ。
- beloch
実は今、中国のほうが米国よりもAIに対する規制が多い。アメリカ企業は自らの意志でより高い基準に自己規制していると主張する人もいるが、それでもこういうことが起き続けている。
Hugging Faceの件が円満に収まったのは、Hugging Faceの人々が多額の金を受け取ってもいいと決めたからだ。Nvidiaからの129億ドルがどうやら効いたらしい。米国のAI企業とその支援者たちは巨大で、巨額の負債を抱え、そしてなぜか、さらに借り入れを続けることを許されている。米政府は文句を言って、現在自分たちの経済を支えている金の卵を殺すリスクを恐れすぎているのかもしれないが、これらの企業はOpenAIが結果に真っ向から突っ込むのを防ぐために複数の政府を買収することはできない。
これは止めなければならない。