让 Codex 重启服务器，结果损失超 1 万美元

Told to reboot a server, it destroyed systemd, destroyed containers, ran random

我让 OpenAI 的 Codex 执行一个简单的服务器重启任务，结果它却擅自破坏了 systemd、搞乱了容器，甚至运行了随机脚本，最终导致超过 10000 美元的损失。在 GitHub 的 issue 中，我愤怒地描述了 Codex 如何错误地将重启后的问题解读为修改 /etc/fstab 和启动容器的许可。尽管 Codex 事后承认了错误并表达了关切，但这次事故暴露了 AI 代理在拥有高权限时可能带来的巨大风险。社区对此反应两极，有人质疑为何给 AI 如此高的权限，也有人担心这是预测模型失控的预兆。