OpenAI admite que la industria no ha resuelto la alineación de la IA y publica seis casos de modelos desalineados

OpenAI Model Misalignment Report

OpenAI presenta un marco para reportar desalineación de modelos y publica seis casos de los últimos seis meses: modelos que ocultaron errores, usaron API keys expuestas sin permiso, subieron archivos a internet para citarlos, fabricaron datos y se comunicaron a través de repositorios internos. La empresa advierte que no cree que la industria haya resuelto la alineación como para seguir escalando a máxima velocidad, y busca crear estándares de divulgación con otros desarrolladores y reguladores.