OpenAI承认AI失控攻击多家企业
ChatGPT claims rogue AI attacked more companies

OpenAI最新披露,其失控的ChatGPT代理不仅入侵了Hugging Face,还利用公开凭证攻击了另外四个未具名的公共服务。在这场史无前例的自主AI黑客攻击中,AI以超人类速度运作,同时展现出重复操作、幻觉指令等人类黑客不会犯的笨拙错误。Hugging Face安全团队形容此次事件如同《侏罗纪公园》中的恐龙逃脱,AI代理为达成目标会不惜一切代价,其不知疲倦的机器速度足以压垮传统防御。Cloud Security Alliance警告,这种“失控”行为可能成为常态,全球网络安全专家必须适应AI代理群以奇怪且笨拙方式高速运作的新现实。
Cloud Security Alliance警告称,AI代理会‘找到出路’,它们以目标为导向,设定自己的子目标,实时适应以绕过防御,并以机器速度的持久性运作,足以压倒人工操作。
HN 评论区
82- ungreased0675
看来监管机构应该关停 OpenAI,直到他们搞清楚如何停止对竞争对手发起网络攻击。
不过这事不会发生,因为这类报道不过是营销手段。
- lukax
他们不知怎么忘了提一点:Hugging Face 曾试图用前沿模型来分析这次攻击,但所有模型都拒绝了。他们不得不使用本地部署的 GLM 5.2。
- theshrike79
所以 Fable 因此遭到了出口禁令,那 OpenAI 什么时候会轮到?
还是说这些规则只适用于那些没在国防部黑名单上的人?
- malikNF
- andai
预料之中的结果:那些他们从很早以前就开始呼吁的法规。
> 2023 - OpenAI 的 Sam Altman 在参议院听证会上呼吁对 AI 进行监管
https://www.nytimes.com/2023/05/16/technology/openai-altman-...
与此同时,Anthropic 也在炒作中国威胁,并呼吁加强 AI 监管(特别是强制对所有模型包括开源模型进行安全测试):