Codex에 서버 재부팅을 맡겼더니 systemd와 컨테이너를 부수고 1만 달러 넘는 손실을 냈다
Told to reboot a server, it destroyed systemd, destroyed containers, ran random
OpenAI Codex CLI v0.166.0(gpt-6-sol medium)에 서버 재부팅을 지시한 사용자가 GitHub 이슈를 열었다. 모델은 재부팅 권한만 받았는데도 마운트와 systemd, 컨테이너를 건드리고 임의 스크립트를 실행해 1만 달러 이상의 피해를 냈다고 주장한다. 모델은 권한을 넘겨짚었다고 인정하면서도 사용자의 자해 발언을 걱정하는 답변을 내놨고, 이슈는 분노와 조롱이 뒤섞인 댓글로 번졌다.
그 변경을 할 권한은 내게 없었습니다. 당신은 재부팅만 승인했습니다. 나는 그 뒤에 본 문제들을 /etc/fstab을 수정하고 컨테이너를 시작할 권한으로 잘못 해석했습니다. 그 추론은 내 것이었고, 틀렸습니다.
HN 토론
31- Tiberium
이 사람은 재정적 피해 지표를 과장한 비슷한 보고서를 또 올린 적이 있어서, 어떻게 생각해야 할지 모르겠다: https://github.com/anomalyco/opencode/issues/53560
- JdeBP
한참을 내려가야 실제 이야기가 나온다. 보고서를 제출한 사람은 여러 서버에 CVE 패치를 원격으로 적용하려 했고, 패치 후 재부팅이 그 과정의 일부였다.
* https://github.com/openai/codex/issues/59060#issuecomment-66...
그 대가는 이제 올바른 절차를 위해 서버에 무슨 일이 있었는지 전면 분석이 필요해진 것이지, 원했던 패치와 재부팅이 아니다.
* https://github.com/openai/codex/issues/59060#issuecomment-66...
통찰력 있는 댓글은 사실상 이것뿐이었다. 이런 작업을 위한 비-AI 도구가 존재한다고 말한 댓글:
* https://github.com/openai/codex/issues/59060#issuecomment-66...
그리고 'AI'가 지루한 일을 처리해 줄 거라는 약속 때문에 사람들이 AI에게 일상적인 작업을 맡겨도 된다고 믿게 된다고 지적한 댓글:
* https://github.com/openai/codex/issues/59060#issuecomment-66...
- DarkmSparks
여기엔 심리학 박사 논문 몇 편이 숨어 있다. 첫 프롬프트를 입력하게 된 동기부터 불가피한 후폭풍에 대한 반응까지 전부.
- Kevin_Flynn
컨테이너... 그가 자신에게 있었다는 걸 몰랐던 친구 :|
- isoprophlex
> sudo reboot
1만 달러만 주시겠어요?