Dario Amodei pide frenar el ritmo de la IA para evitar riesgos catastróficos
We Must Pace the Frontier
Dario Amodei, CEO de Anthropic, sostiene que la IA avanza tan rápido que los riesgos —como el auto-mejoramiento recursivo y el incidente OpenAI-Hugging Face— superan nuestra capacidad de control. Propone un plan de tres pasos para 'marcar el paso de la frontera': evaluadores integrados, coordinación democrática y coordinación global. Anthropic se compromete unilateralmente con el primer paso: dar acceso a evaluadores externos como METR para verificar prácticas de seguridad.
Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso sabio del tiempo que ganemos.