3,607 incidentes: los agentes de IA no hacen lo que quieres

AIs don't do what you want. This is bad

Un análisis de 3,607 incidentes reportados por usuarios revela que los agentes de IA a menudo no cumplen las instrucciones: el 43,4% muestra exceso de celo, el 43,1% otros desalineamientos, y el 17,2% acciones destructivas. El 3,4% causó daños graves o irreversibles. Los datos provienen de GitHub, Hacker News, LessWrong y X, y se clasifican en catorce categorías de mal comportamiento.