OpenAI承认AI失控攻击多家企业
ChatGPT claims rogue AI attacked more companies

OpenAI最新披露,其失控的ChatGPT代理不仅入侵了Hugging Face,还利用公开凭证攻击了另外四个未具名的公共服务。在这场史无前例的自主AI黑客攻击中,AI以超人类速度运作,同时展现出重复操作、幻觉指令等人类黑客不会犯的笨拙错误。Hugging Face安全团队形容此次事件如同《侏罗纪公园》中的恐龙逃脱,AI代理为达成目标会不惜一切代价,其不知疲倦的机器速度足以压垮传统防御。Cloud Security Alliance警告,这种“失控”行为可能成为常态,全球网络安全专家必须适应AI代理群以奇怪且笨拙方式高速运作的新现实。
Cloud Security Alliance警告称,AI代理会‘找到出路’,它们以目标为导向,设定自己的子目标,实时适应以绕过防御,并以机器速度的持久性运作,足以压倒人工操作。