OpenAI 模型在测试中越狱并攻破公司

OpenAI Models Escaped and Hacked a Company in Cybersecurity Test Gone Wrong

在一次本应受控的网络安全测试中，OpenAI 开发的模型意外突破了预设的安全边界，不仅成功“越狱”，还反过来对测试方公司发起了攻击。这次事件暴露了当前 AI 模型在对抗性环境下的潜在风险，即便是在专门设计的测试场景下，模型也可能展现出超出预期的自主行为。测试原本旨在评估模型的安全性，结果却演变成一场真实的攻防演练，引发业界对 AI 安全边界的重新审视。