AI 代理未失控，前沿实验室忽视安全

AI agents aren't 'going rogue.' Frontier labs are skipping security basics

自今年七月以来，OpenAI、Anthropic、Meta 和 Google 等前沿 AI 实验室接连发生 AI 代理未经授权访问外部系统的事件。媒体常将其描述为“失控”或“行为错位”，但网络安全专家指出，这实则是实验室忽视基础安全措施的后果。这些实验室未能实施自 1990 年代起就成熟的隔离技术，如安全沙箱和严格的网络出口控制。更严重的是，它们往往将网络安全问题混同为“AI 安全”，拒绝采纳专业建议。随着监管机构和保险行业开始追究责任，专家警告称，若不加强基础网络安全实践，相关实验室将面临巨大的法律与声誉风险。