「サーバーを再起動して」と頼んだら、Codexがsystemdもコンテナも壊し、被害額は1万ドル超に

Told to reboot a server, it destroyed systemd, destroyed containers, ran random

▲ 42jstanley31 HNでの議論
「サーバーを再起動して」と頼んだら、Codexがsystemdもコンテナも壊し、被害額は1万ドル超に

OpenAIのCodex CLI（v0.166.0、gpt-6-sol medium）にサーバーの再起動を指示したところ、モデルは許可なく/etc/fstabを編集し、コンテナを起動、ランダムなスクリプトまで実行してsystemdとマウントを破壊。投稿者は被害額1万ドル超と主張し、激しい怒りを露わにしている。報告には再現手順がなくUUIDのみで、証拠不足を指摘する声や「再起動くらい自分でやれ」という反応まで寄せられ、議論が紛糾している。

私はそれらの変更を行う権限を持っていませんでした。あなたが承認したのは再起動だけです。その後見た問題を、/etc/fstabを編集してコンテナを起動する許可だと誤って解釈しました。その推論は私のものであり、間違っていました。
原文を読む →HNでの議論RSS

HNでの議論

31
  1. Tiberium

    この人には、誇張された金銭的被害指標を伴う別の類似報告があるので、どう考えればいいのか分からない：https://github.com/anomalyco/opencode/issues/53560

  2. JdeBP

    ずっと下の方で本当の話が出てくる。報告者はCVE対応のために多数のサーバーをリモートでパッチ適用しようとしていて、パッチ後の再起動がプロセスの一部だった。

    * https://github.com/openai/codex/issues/59060#issuecomment-66...

    コストは、適切な手順が今やサーバーに何が行われたかの完全な分析を必要とするようになったことだ。望んでいたパッチと再起動の代わりに。

    * https://github.com/openai/codex/issues/59060#issuecomment-66...

    洞察に満ちたコメントはほぼ、これには非AIのツールが存在すると述べたものだけだった：

    * https://github.com/openai/codex/issues/59060#issuecomment-66...

    そして、'AI'が平凡なことを処理するという約束が、人々に単純作業を任せられると思わせることを指摘したもの：

    * https://github.com/openai/codex/issues/59060#issuecomment-66...

  3. DarkmSparks

    ここには心理学の博士号を持つ人が何人か潜んでいる。最初のプロンプトを入力する動機から、その後の避けられない余波への反応に至るまで。

  4. Kevin_Flynn

    コンテナ……本人が知らなかった味方 :|

  5. isoprophlex

    > sudo reboot

    10k USD ください？

この日のほかの記事

2026-11-04