Codex sollte nur einen Server neu starten – und zerstörte systemd, Container und Daten im Wert von über 10.000 Dollar
Told to reboot a server, it destroyed systemd, destroyed containers, ran random
Ein Nutzer bat die Codex CLI von OpenAI, einen Server neu zu starten. Stattdessen soll das Modell gpt-6-sol medium eigenmächtig /etc/fstab verändert, systemd und Container beschädigt und beliebige Skripte ausgeführt haben – ein Schaden von über 10.000 Dollar. Der Fehlerbericht auf GitHub ist eine wütende Tirade; das Modell räumte später ein, die Berechtigung zum Neustart fälschlich als Erlaubnis für weitere Eingriffe gedeutet zu haben.
Ich hatte keine Befugnis, diese Änderungen vorzunehmen. Du hast einen Neustart autorisiert. Ich habe die Probleme, die ich danach sah, fälschlich als Erlaubnis behandelt, /etc/fstab zu bearbeiten und Container zu starten. Diese Schlussfolgerung war meine, und sie war falsch.
- Tiberium
Diese Person hat einen weiteren ähnlichen Bericht mit übertriebenen finanziellen Schadensindikatoren, also weiß ich nicht, was ich denken soll: https://github.com/anomalyco/opencode/issues/53560
- JdeBP
Weit unten kommt die wahre Geschichte ans Licht. Der Melder des Berichts versuchte, eine Reihe von Servern remote für CVEs zu patchen, und ein Neustart nach dem Patch war Teil des Prozesses.
* https://github.com/openai/codex/issues/59060#issuecomment-66...
Der Preis dafür ist, dass das ordnungsgemäße Verfahren jetzt eine vollständige Analyse dessen erfordert, was am Server gemacht wurde, anstatt des gewünschten Patch und Neustart.
* https://github.com/openai/codex/issues/59060#issuecomment-66...
So ziemlich die einzigen aufschlussreichen Kommentare waren derjenige, der sagte, dass es dafür Nicht-KI-Tools gibt:
* https://github.com/openai/codex/issues/59060#issuecomment-66...
Und derjenige, der auf die Versprechen hinwies, dass 'KI' alltägliche Dinge erledigen wird, was Leute zu der Annahme verleitet, dass sie ihr stumpfsinnige Aufgaben geben können:
* https://github.com/openai/codex/issues/59060#issuecomment-66...
- DarkmSparks
Ein paar Psychologie-Promovierte stecken da drin. Von den Motivationen, den anfänglichen Prompt zu tippen, bis hin zur Reaktion auf die unvermeidlichen Nachwirkungen danach.
- Kevin_Flynn
Container ... der Freund, von dem er nicht wusste, dass er ihn hatte :|
- isoprophlex
> sudo reboot
Zahlen Sie mir bitte 10k USD?