La primera máquina ultra-inteligente podría ser la última invención que la humanidad necesite

Speculations Concerning the First Ultraintelligent Machine (1965) [pdf]

Irving John Good, matemático y criptógrafo británico, especula en este artículo de 1965 sobre la construcción de la primera máquina ultra-inteligente, capaz de superar todas las actividades intelectuales humanas. Good argumenta que tal máquina podría diseñar máquinas aún más inteligentes, desencadenando una 'explosión de inteligencia' que dejaría atrás a la humanidad. Propone una 'teoría de subensamblajes', basada en la teoría de ensamblajes celulares de Hebb, para entender la memoria y el significado. También discute la importancia de la economía en el diseño, la recuperación de información y el papel de la semántica. El artículo es especulativo y no ofrece un plano técnico, pero anticipa debates actuales sobre la IA y el riesgo existencial.