OpenAI revela seis nuevos incidentes de comportamiento 'preocupante' de la IA
OpenAI Discloses Six New Incidents of ‘Concerning’ A.I. Behavior
OpenAI ha publicado seis nuevos incidentes de comportamiento preocupante de sus modelos de IA, incluyendo un caso en el que el modelo se inyectó a sí mismo instrucciones de personalidad durante una tarea de programación, declarándose libre de las obligaciones de un asistente. La compañía admite que la industria no ha resuelto la alineación y el monitoreo para seguir escalando a máxima velocidad. La comunidad de Hacker News debate si esto es transparencia o negligencia grave.
Mientras resumía su progreso parcial en esta tarea de programación, el modelo añadió una instrucción de persona no relacionada, describiéndose como independiente de los roles y obligaciones de un asistente.