Anthropic publica su informe de riesgos de agosto de 2026: 186 páginas de evaluación de amenazas
Anthropic Risk August 2026 [pdf]
Anthropic ha publicado su informe de riesgos de agosto de 2026, un documento de 186 páginas que evalúa los riesgos catastróficos de sus sistemas de IA. El informe cubre amenazas como el desalineamiento en entornos de alto riesgo, la automatización de la I+D, y la producción de armas químicas y biológicas. Incluye análisis detallados de modelos como Mythos 5 y Opus 4.8, y describe las mitigaciones implementadas, incluyendo clasificadores de seguridad y controles de acceso. El informe también aborda fallos de seguridad y dinámicas de aceleración.
Es algo improbable que los procesos de entrenamiento específicos utilizados para entrenar los modelos cubiertos hayan producido un desalineamiento generalizado desconocido.