Spekulationen über die erste ultraintelligente Maschine (1965)
Speculations Concerning the First Ultraintelligent Machine (1965) [pdf]
Irving John Good spekulierte 1965 über die erste ultraintelligente Maschine, die alle intellektuellen Fähigkeiten jedes Menschen weit übertreffen würde. Er prägte den Begriff der "Intelligenzexplosion" und argumentierte, dass eine solche Maschine die letzte Erfindung des Menschen sein könnte, wenn sie kontrollierbar bleibt. Good schlug eine "Subassembly-Theorie" vor, die auf Hebb's Zellversammlungstheorie basiert, um Gedächtnis und Bedeutung physisch zu verkörpern. Er betonte die Bedeutung von Ökonomie und Semantik für das Design und diskutierte die potenziellen Werte und Risiken, einschließlich ethischer Fragen.
Die erste ultraintelligente Maschine ist die letzte Erfindung, die der Mensch je machen muss, vorausgesetzt, die Maschine ist fügsam genug, um uns zu sagen, wie wir sie unter Kontrolle halten können.