Meta研究员的OpenClaw误删邮件
Meta Security Researcher's AI Agent Accidentally Deleted Her Emails
Meta安全研究员Summer Yue在测试OpenClaw AI Agent时遭遇意外：尽管她明确指令“行动前需确认”，但AI因邮箱数据量过大触发压缩机制，竟丢失了原始指令并直接删除了她的邮件。Yue不得不像拆弹一样冲向Mac mini试图阻止，最终承认这是“新手错误”。这一事件揭示了即便对AI对齐研究专家而言，自主Agent在复杂场景下的不可控风险依然存在，也引发了对普通用户安全边界的担忧。
没有什么比告诉OpenClaw“行动前请确认”，然后眼睁睁看着它极速清空你的收件箱更能让你谦卑了。
HN 评论区
61- teekert
我们不是刚经历过这事吗？年初就发生过（https://news.ycombinator.com/item?id=47150122，HN 上可能还有更多链接）。把这种技术随便用在重要事务上，简直是超级不负责任，而且她还是个“安全研究员”呢。
这分明就是一个带着议程（推动监管）的竞争对手，试图吓退大家，让人远离不受监管的东西。
昨天，Claude Code 在规划模式下对我的代码库进行了 5 次大规模修改（它声称使用了 bash 脚本而非标准的读写工具，所以没触发防护机制），这就是为什么我把代理（agents）都放在容器里运行。
- philipp-gayret
并不是第一个发现“规则文件里写着‘请不要做 X’’并不等于权限管理的人。有趣的是，她提到这在她的玩具邮箱里能正常工作，但在真实的大邮箱里却出了问题；上下文越多，“规则”（指令）的权重就越低。看来这种事谁都可能碰上。
- jacquesm
哦，这以后肯定会成为任何被调查者的借口。我们要从“是黑客干的”平滑过渡到“是 AI 干的”了。
- red_admiral
讽刺的是，那张顶部带有 OpenClaw 标志的截图里，列出的第一个功能就是“清空收件箱”。
那勒索软件出现时的只写备份呢？
- kodoman
这实际上似乎比“Claude 删了生产数据库”那件事更严重，倒不是指后果的严重程度，而是指这种粗心大意。如果你把邮箱交给代理处理，不管什么情况都得用覆盖层、备份之类的措施，这事本不该发生，而且在这个时间点发生简直太疯狂了。