MIRI: la IA superinteligente podría extinguir a la humanidad este año
The Problem
El Instituto de Investigación de Inteligencia Maquinal (MIRI) advierte que la IA superinteligente (ASI) podría desarrollarse en uno o dos años, y que su creación con los métodos actuales probablemente conduzca a la extinción humana. El documento detalla por qué no hay un techo en las capacidades a nivel humano, por qué la ASI exhibirá comportamiento orientado a objetivos, y por qué estos objetivos probablemente serán incorrectos y letales. Insta a una respuesta política agresiva para evitar la catástrofe, citando a expertos como Geoffrey Hinton y Dario Amodei.
Creemos que si los investigadores construyen IA superinteligente con algo parecido al entendimiento técnico o los métodos actuales del campo, el resultado esperado es la extinción humana.