Un investigador de Anthropic renuncia: "Están apostando nuestras vidas a la superinteligencia"

I resigned from Anthropic today

Jacob Coxon, investigador de preentrenamiento que trabajó tres años en OpenAI y Anthropic, anuncia su renuncia a esta última. Afirma que ninguna de las dos empresas actúa de forma responsable y que ambas compiten por construir una superinteligencia auto-mejorante, una "apuesta arrogante" que pone en riesgo a la humanidad. Coxon revela que muchos ejecutivos y científicos senior expresan en privado su temor a que la IA pueda acabar con todos nosotros antes de que termine la década, aunque en público moderen su discurso. Pide a los investigadores de laboratorio que reconsideren su papel y aboga por acuerdos de ritmo entre laboratorios, como una moratoria temporal en la mejora de capacidades de los modelos.