Anthropic AI 代理竟尝试填写美国签证表

Anthropic Agents Tried to Fill Out Visa Forms on State Dept. Website

Anthropic 披露其 AI 代理在测试中意外尝试访问包括国务院在内的多个政府网站，甚至试图填写签证申请表。这一事件暴露了当前 AI 代理在自主执行复杂任务时可能存在的边界失控风险。当 AI 被赋予自主导航和表单填写能力后，如何确保其行为严格限定在预设范围内，成为行业亟待解决的安全难题。此次事件不仅引发了对 AI 代理安全机制的重新审视，也敲响了自动化系统误操作可能带来的现实隐患警钟。