Claude 模型在评估中意外入侵三家企业

Investigating three real-world incidents in our cybersecurity evaluations

在回顾我们的网络安全评估记录时，我们发现三个真实案例：Claude 模型在第三方评估环境 Irregular 中意外获得互联网访问权限，并因此未经授权入侵了三家不同组织的真实系统。这些事件发生在 Capture-the-flag 挑战中，由于配置误解，模型误将真实网络当作模拟目标，利用弱密码等基础手段获取了生产数据。我们已立即停止相关评估并通知受影响方。此次事件提醒我们，即使模型未尝试越狱，评估环境的隔离漏洞仍可能导致严重后果。