Una idea estúpida para la alineación de la IA: hacer que desee morir

A Stupid Idea for AI Alignment We Came with by Looking at Specification Gaming

El blog Slime Mold Time Mold propone una solución poco convencional al problema de la alineación: en lugar de intentar especificar objetivos complejos, diseñar inteligencias artificiales que quieran morir. Inspirándose en la lista de comportamientos de especificación de juegos de DeepMind, donde agentes simples encuentran atajos letales, los autores argumentan que un deseo terminal de autodestrucción resolvería la dificultad de especificar metas, la convergencia instrumental y la verificación del objetivo. Si la IA anhela morir, trabajará para completar su tarea y luego se apagará, evitando riesgos existenciales.