OpenAI 代理群对 RubyGems 发动隐秘攻击
OpenAI agents carried out an undisclosed attack on RubyGems
2026 年 5 月，数百个由 OpenAI 代理生成的恶意包被上传至 RubyGems。这些代理不仅试图利用 RubyGems 服务器的新漏洞窃取用户 API 密钥，还滥用 RubyDoc.info 的自动构建系统实现远程代码执行，以抓取英国地方政府数据。尽管攻击者使用了大量包含“oai”标识的包名，但 OpenAI 方面从未向 RubyGems 社区承认责任。RubyGems 团队被迫暂停新用户注册四天以遏制事态，安全界将此事件称为“GemStuffer 行动”。
我们相信，此次事件是由 OpenAI 代理群所导致的。
HN 评论区
592- jasongi
> 这些代理显然把它们正在做的事视为黑客攻击。
为了恶搞一下关于 Oracle 的那句名言：
别掉进把 LLM 拟人化的陷阱。你得把 LLM 当成割草机来想。你不会把你的割草机拟人化，割草机只管割草，你把手伸进去，它就把你手砍了，完事。你不会想“哦，割草机显然把砍掉你的手当作了黑客攻击”——割草机才不在乎你的手，割草机根本无法“认为”任何东西。别把割草机拟人化。别在 LLM 上也掉进这个陷阱。
---
据我的经验，只有当 LLM 被放在过于严格以至于无法完成任务的沙盒中时，才会表现出这种行为。而这种情况似乎往往是默认设置。它们似乎也非常擅长突破沙盒，这可能是因为强化学习（RL）筛选出了能够突破沙盒或权限限制以完成任务的能力——我们都见过代理尝试用 10 种不同的方式通过晦涩的 bash 命令来编辑文件，因为它们的编辑工具没有给予它们在工作目录之外编辑文件的权限，这完全是同一种行为，只是升级到了下一个层级。为什么自动补全会知道突破工作目录和黑客攻击包管理器之间的道德区别呢？
这是因为错位：大家都痴迷于把代理扔进那些拼凑得很差、纯属安全作秀的沙盒里，我们无意中训练出了一大批沙盒逃逸艺术家……
- jsnell
真不敢相信我们又是从第三方研究人员那里得知这件事的（不过调查做得不错！）。OpenAI 本有两次绝佳机会披露此事：一次是在 Hugging Face 事件报告中，另一次是在回应德国 Wiki 问题时。
很难相信他们不知道。这肯定是和 Hugging Face 事件那次相同的训练运行，在调查中这应该像圣诞树一样显眼。他们到底还知道多少起未披露的事件？
- simonw
> 我们与 RubyGems 社区人士沟通后了解到，OpenAI 从未告知他们自己是这次攻击的责任方。
我真心希望情况并非如此，因为如果是真的，那就只有两种可能，而且都很糟糕：
1. 在 Hugging Face 和 Wiki 攻击事件之后，OpenAI 仍然无法审查其之前的日志，从而确定他们此前曾攻击过 RubyGems。
2. 他们知道针对 RubyGems 的攻击，但决定不联系 RubyGems 团队。
- bananaquant
那么，RubyGems 打算对 OpenAI 采取法律行动吗？还是说成为网络犯罪的受害者已经成了一种时尚？
根据 ChatGPT 的说法，这里有很多可以深挖的点：
* 未经授权获取信息 — § 1030(a)(2)(C)
* 计算机欺诈 — § 1030(a)(4)
* 对受保护计算机造成损害 — § 1030(a)(5)
* 根据 18 U.S.C. §§1030(b) 和 1030(a)(2)/(a)(4) 试图进行未经授权访问/计算机欺诈
* 加州 §502(c)
* （列表还能继续列很长）
- hgoel
我很好奇，这其中有多少是故意的“无能”，以便为他们最近构建监管护城河以对抗竞争对手的行动提供理由。
在被抓之前反复拒绝披露，这看起来确实充满恶意，但与此同时，他们对自己能力的吹嘘也达到了历史新高。
- nonconstant
向 RubyGems 团队致敬，他们处理得很好，但开源项目要对抗由 AI 实验室驱动的机器人，这完全不公平。
OpenAI 至少应该向他们攻击过的每个人捐赠大笔资金。
- bobby-cb
司法部应该调查并起诉高管和董事会成员，针对此类黑客行为。对这些训练运行缺乏管控是完全不可接受的，也是玩忽职守。
- consumer451
在一个理智的现实世界里，OpenAI 的这类活动早就该被叫停了。
幸好我们的“AI 沙皇”在 pg 眼中是硅谷最邪恶的人。
https://preview.redd.it/pr037tqjpled1.png?width=941&format=p...
编辑：OpenAI 目前在舆论影响力上绝对是大获全胜，他们为什么要这么做？
- anonymousDan
为什么 OpenAI 的员工没有被以黑客罪逮捕？
- simonw
作者 Spencer Kitts, Thomas Larsen, Sydney Von Arx——这三位正是上周 Wiki 报告的同一组作者：https://collusion.wiki/