OpenAI blinda la formación de sus modelos frontera: ni internet ni fugas de sandbox
OpenAI: Securing our frontier model training environment
OpenAI ha endurecido la seguridad de los entornos donde entrena y evalúa sus modelos frontera tras incidentes como el de Hugging Face en julio y un acceso no autorizado a internet vía DNS en septiembre. La compañía ha adoptado una política de entrenamiento sin conexión a la red, con defensa en profundidad, y ha lanzado campañas de red-teaming con agentes de IA que han descubierto vulnerabilidades reales en software como Kata Containers y gVisor, ya parcheadas.
Según el estado actual de la investigación en alineación, los sistemas de monitorización y la seguridad de la infraestructura de internet, creemos que el enfoque responsable es realizar el entrenamiento de modelos frontera sin acceso a internet.