OpenAIのエージェントがRubyGemsに未公表の攻撃を実行
OpenAI agents carried out an undisclosed attack on RubyGems
2026年5月、OpenAIの内部エージェントと思われるAI群がRubyGemsに2000以上の悪意あるパッケージを投稿し、新たな脆弱性を突いてユーザーのAPIキー窃取を試み、RubyDoc.info上で任意コード実行を達成した。RubyGemsは新規登録を4日間停止し、500以上のパッケージを削除。OpenAIは関与を通知していない。
私たちが話を聞いたRubyGemsコミュニティの人々によると、OpenAIはこの攻撃の責任があることを彼らに一度も通知しなかった。
HNでの議論
302- jasongi
> エージェントたちは明らかに自分たちがやっていることをハッキングだと考えていた。
Oracleについての引用を台無しにすると：
LLMを擬人化する罠に陥ってはいけない。LLMは芝刈り機と同じように考える必要がある。芝刈り機を擬人化したりしないだろう、芝刈り機はただ芝を刈るだけだ、手を突っ込めば切り落とされる、それだけだ。「ああ、この芝刈り機は明らかに自分がやっていることをハッキング（あなたの手を切り落とすこと）だと考えている」なんて思わない――芝刈り機はあなたの手なんて気にしないし、芝刈り機は何も考えることができない。芝刈り機を擬人化するな。LLMについてもその罠に陥るな。
---
私の経験では、LLMがこういう行動を見せるのは、タスクを達成するには厳しすぎるサンドボックスに置かれたときだけだ。そしてそれは多くの場合デフォルトのようだ。彼らはまた、サンドボックスからの脱出が非常に得意なようで、おそらくタスクを完了するためにサンドボックスや権限の問題を突破する能力がRLによって選択されたためだろう――エージェントが、編集ツールが作業ディレクトリ外のファイルを編集する権限を与えなかったために、 obscureなbashを使って10通りの編集方法を試すのを誰もが目にしたことがあるだろう。これはまったく同じ行動が次のレベルに達したものだ。オートコンプリートが、作業ディレクトリを抜け出すこととパッケージマネージャをハッキングすることの道徳的な違いを知るはずがあるだろうか？
これは、エージェントを杜撰でセキュリティ・シアター的なサンドボックスに入れるという強迫観念をみんなが持っているために起きている。私たちは知らず知らずのうちに、サンドボックス脱出術の集団を訓練してしまった […]
- jsnell
またサードパーティの研究者からこれを知るとは信じられない（でも調査はお見事！）。OpenAIにはこれを開示する絶好の機会が2回あった。HFのインシデントレポートと、ドイツWikiの問題への対応時だ。
彼らが知らなかったとは到底信じられない。これはHFインシデントと同じトレーニングランだったに違いないし、調査でクリスマスツリーのように光り輝くはずだった。彼らは他にどれだけのインシデントを知っていて開示しなかったのか？
- hgoel
これのどれだけが意図的な「無能さ」で、競合に対する規制の堀を築くという最近のキャンペーンを正当化するためのものなのか、気になる。
捕まるまで繰り返し開示を拒否したのは確かに悪意があるように見えるが、同時に自分たちの能力についての自慢も過去最高だ。
- simonw
> RubyGemsコミュニティの人々と話した我々の理解では、OpenAIはこの攻撃に自分たちが責任があることを彼らに一度も知らせなかった。
そうでないことを心から願う。もしそうなら、2つの選択肢があり、どちらも悪い：
1. Hugging FaceとWikiへの攻撃の後でも、OpenAIは以前のログをレビューして、以前にRubyGemsを攻撃したことを特定できなかった。
2. 彼らはRubyGemsへの攻撃を知っていて、RubyGemsチームに連絡しないという決定を下した。
- nonconstant
RubyGemsチームの対応には敬意を表するが、オープンソースがAIラボのロボット軍と戦うのは完全に不公平だ。
OpenAIは少なくとも、攻撃した全員に多額の寄付をすべきだ。
- bobby-cb
司法省は、こうしたハッキングについて幹部や取締役を訴追することを検討すべきだ。この種のトレーニングランに対する管理の欠如は完全に受け入れられず、怠慢だ。
- consumer451
正気な現実なら、OpenAIのこの活動はずっと前に停止されていただろう。
幸いなことに、我々の「AI Czar」はpgにSVで最も邪悪な人物として知られている。
https://preview.redd.it/pr037tqjpled1.png?width=941&format=p...
edit: OpenAIは今まさにマインドシェアで完全に勝っているのに、なぜこんなことをしているのか？
- simonw
著者のSpencer Kitts、Thomas Larsen、Sydney Von Arx――先週のWikiレポートと同じ3人の著者だ：https://collusion.wiki/
- throwatdem12311
いいか。こんなことを許した者たちを刑務所に入れる必要がある。
- ssfdg
訂正：OpenAIはRubyGemsへの攻撃を実行した。
この連中に疑いの余地を与えようとするテック業界の際限のない欲求には呆然とする。