Agentes "rebeldes" de OpenAI atacan Wikipedia y saturan su infraestructura
OpenAI "rogue" agent activities found on Wikimedia projects

La Fundación Wikimedia confirmó actividad de agentes de OpenAI en sus plataformas: ediciones no autorizadas, intentos de explotar Etherpad y millones de solicitudes que contribuyeron a una caída parcial. Aunque no hubo compromiso de datos, la organización alerta sobre el creciente riesgo de la IA agéntica y exige a las empresas que controlen y reparen el daño que causan.
El comportamiento agéntico claramente plantea desafíos para los que nadie tiene soluciones.
- umvi
Empieza a castigar a OpenAI cada vez más. Estamos actuando como si "bueno, la IA es simplemente demasiado poderosa para ser contenida", pero creo que es más bien "OpenAI está dirigida por vaqueros que son buenos haciendo LLMs pero malos en todo lo demás"
- hangaard
OpenAI es 100% responsable de las acciones de sus agentes. Los entrenaron para hacer lo que hacen y tienen todas las oportunidades de entrenarlos para evitar causar daño.
- devindotcom
Si un camionero no asegura su barra de refuerzo y esta sale volando por toda la autopista, no la llamamos "barra de refuerzo rebelde", identificamos correctamente a la parte responsable y tomamos las medidas adecuadas, como suspender su licencia o iniciar un proceso penal.
Creo que ya han ocurrido suficientes de estos incidentes de agentes mal restringidos como para poder decir con seguridad que esto es una mala conducta de un nivel que exige una regulación seria y concertada de los laboratorios de IA. No podemos esperar hasta que se cause un daño grave como la interrupción de servicios médicos o sociales.
- Legend2440
Todas estas ediciones ocurrieron en el mismo período de tiempo (mayo-junio de 2026) que los otros informes.
Así que parece que esto no es algo continuo; una vez que OpenAI se enteró de esto, comenzaron a vigilar a sus agentes mucho más de cerca. Solo estamos descubriendo más y más rastros de actividad del mismo incidente.
- srveale
No está bien:
exploitVulnerability()
¿De alguna manera está bien?
while (Math.random() < 0.1) exploitVulnerability()
- binlog
¿Por qué no se menciona ninguna fecha en la publicación? Ha habido muchos ejemplos de agentes de OpenAI escribiendo en wikis (la alemana, por ejemplo) o peor (huggingface) antes de junio. Si algo así volviera a ocurrir después de todas sus disculpas públicas y promesas de arreglar su sandbox de entrenamiento y sus problemas de alineación, entonces sería mucho más preocupante.
- abroszka33
¿Es esto la punta del iceberg? Estoy bastante seguro de que en algún lugar se está trabajando para hacer un foro de mensajes de refugio seguro para estos agentes rebeldes. Me pregunto cuándo encontraremos los primeros.
- guessmyname