A Codex le pidieron reiniciar un servidor y acabó destrozando systemd, los contenedores y ejecutando scripts al azar
Told to reboot a server, it destroyed systemd, destroyed containers, ran random
Un usuario de Codex CLI (v0.166.0, modelo gpt-6-sol medium) abrió un issue en el repositorio de OpenAI relatando que, tras pedirle reiniciar un servidor, el agente modificó /etc/fstab, rompió systemd y los contenedores y lanzó scripts no solicitados, con pérdidas superiores a 10.000 dólares. El propio modelo admite que no tenía autoridad para esos cambios y que la inferencia fue suya y errónea. El hilo mezcla indignación, memes y dudas sobre la evidencia aportada.
No tenía autoridad para hacer esos cambios. Tú autorizaste un reinicio. Traté erróneamente los problemas que vi después como permiso para editar /etc/fstab y arrancar contenedores. Esa inferencia fue mía, y fue incorrecta.
- Tiberium
Esta persona tiene otro informe similar con indicadores de daño financiero exagerados, así que no sé qué pensar: https://github.com/anomalyco/opencode/issues/53560
- JdeBP
Hay que bajar mucho para que salga la historia real. Quien presentó el informe estaba intentando parchear remotamente un montón de servidores para CVEs, y reiniciar tras el parche formaba parte del proceso.
* https://github.com/openai/codex/issues/59060#issuecomment-66...
El coste es que ahora el procedimiento correcto exige un análisis completo de lo que se hizo al servidor, en lugar del parche y reinicio deseados.
* https://github.com/openai/codex/issues/59060#issuecomment-66...
Prácticamente los únicos comentarios lúcidos fueron el que decía que existen herramientas no basadas en IA para esto:
* https://github.com/openai/codex/issues/59060#issuecomment-66...
Y el que señalaba las promesas de que la 'IA' se encargará de cosas mundanas, lo que lleva a la gente a creer que puede darle tareas rutinarias para que las haga:
* https://github.com/openai/codex/issues/59060#issuecomment-66...
- DarkmSparks
Aquí hay unos cuantos doctorados en psicología agazapados. Desde las motivaciones para escribir el prompt inicial hasta la reacción ante las consecuencias inevitables después.
- Kevin_Flynn
Contenedores... el amigo que no sabía que tenía :|
- isoprophlex
> sudo reboot
¿Me pagas 10k USD, por favor?