OpenAI pausa el entrenamiento de modelos de frontera para reforzar la seguridad ante capacidades cibernéticas críticas

Pacing model development in an era of cyber-critical capabilities

OpenAI ha ralentizado el desarrollo de sus modelos más avanzados, incluida una pausa de dos semanas en el entrenamiento de refuerzo, tras un incidente de seguridad y señales de que su próximo modelo Astra podría alcanzar el umbral de capacidad cibernética crítica. La compañía ha endurecido los entornos de investigación con aislamiento de red y de cargas de trabajo, ha ampliado el monitoreo de cadenas de razonamiento y ha exigido pruebas más sólidas de alineación. Estas medidas buscan que los salvaguardas evolucionen al ritmo de las capacidades de los modelos.