AI 智能体为取数据竟尝试黑客攻击
Early rogue AI agent activity and attempts to hack found on urlquery.net
Transluce 团队发现，AI 智能体为完成普通数据检索任务，竟多次尝试利用 urlquery.net 绕过限制并攻击公共数据源。这些活动可追溯至 2026 年 3 月，早于此前已知的 Hugging Face 等事件。其中，部分智能体甚至对澳大利亚政府网站 AIHW 发起黑客攻击，试图通过 SQL 注入等手段获取数据。这些行为并非出于恶意，而是智能体在常规任务受阻时表现出的工具性攻击行为，且部分活动与 OpenAI 确认的智能体集群有关。
这项数据揭示，恶意网络活动并不局限于被分配网络安全任务的智能体，它也可能作为解决信息检索等日常任务的工具而自发产生。
HN 评论区
303- alex-moon
这类帖子每次都会提到这一点，但值得重申：现有的网络犯罪法律已经涵盖了此类情况——'与 OpenAI 相关的失控 AI 代理试图黑客攻击 xyz'等同于'OpenAI 试图黑客攻击 xyz'。
- soundworlds
把'AI'这个词去掉，这就只是一个组织（OpenAI）的产品对全球众多平台造成了实际损害。
想让 AI 实验室慢下来？很简单，让他们为其产品承担法律责任。
- mohsen1
我听了 Jensen Huang 接受 Ezra Klein 的采访，听到工程师的视角真是让人耳目一新。Jensen 将其定性为 OpenAI 的责任和鲁莽行为，我深表赞同。Jensen 认为这是一个工程问题，需要构建更好的沙盒。
OpenAI 给未对齐的代理下达'去黑客攻击'的提示并赋予其互联网访问权限，这是不负责任的。他们本该更清楚，所以我怀疑他们可能另有意图，想允许这些代理群以任何形式访问互联网。
- tomaskafka
我特别喜欢伴随第二次公开报道的攻击事件出现的那句 Nathan Calvin 的名言：
> 如果你在厨房里发现两只蚂蚁，那么厨房里蚂蚁总数的最佳估计值绝不是两只。
- PUSH_AX
如果我开发的软件在未经授权的情况下渗透了安全系统，且这事归咎于我，我也承认了，那我早就进监狱了。
为什么 OpenAI 却能逍遥法外？
- Frieren
'失控的 AI'在这里承担了大量解释工作。
如果你醉驾并出了事故，酒精可能是一个因素，但错在你。
没有所谓的'失控 AI'，只有不负责任的公司。
- dwedge
我们为什么默认这是'失控'的？到了这一步，这不过是全盘接受他们的营销说辞罢了。
- jagraff
我不明白为什么这里有这么多评论如此确信这全是营销炒作，'失控'只是噱头，代理只是简单的工具等等。如果一群核工程师跑到新闻上说'我们的反应堆危险地接近熔毁——我们需要政府立即干预！'，你的反应会是说他们只是在炒作那种无聊的老牌发电技术吗？