1965年预言：超智能机器与智力爆炸
Speculations Concerning the First Ultraintelligent Machine (1965) [pdf]
人类生存的关键，在于尽早造出超智能机器。 Irving John Good 在这篇经典论文中大胆预言：一旦机器智力超越人类，它将能设计出更强大的机器，从而引发不可阻挡的“智力爆炸”。这意味着，超智能机器将是人类需要做出的最后一项发明。Good 不仅探讨了这种机器的巨大价值，还通过“子组件”理论深入剖析了记忆与意义的物理载体。尽管当时没有晶体管或低温技术的蓝图，但Good 对语义、信息检索及机器学习的思考，至今仍为 AI 发展提供着深刻的洞见。
因此，第一台超智能机器将是人类需要做出的最后一项发明，前提是这台机器足够温顺，能告诉我们如何控制它。
- 有评论者指出，将 LLM 视为'stochastic parrots'的批评同样适用于人类，因为人类的思维本质上也是生物神经网络基于训练数据产生的输出，并非完全受意识控制。
- 一位从业者分享经验称，在组织决策中，技术合理性往往让位于政治博弈，最佳策略是预测哪一方势力将最终拍板，而非在黑暗中坚持技术正确。
- 评论认为20世纪初关于'智力爆炸'的乐观预言并非盲目，而是基于当时亲历者目睹了从马车到登月等剧烈技术变革后的合理推断。
- 有观点反驳了AI发展被仓促推进的论调，强调超智能机器的概念已被严肃讨论数十年，如今将其视为新发现的人恰恰是当年嘲笑这些想法的群体。
- 针对LLM的局限性，有评论者提出其缺乏创造力反而使其成为最安全的消费级AI，既避免了失控的超智能风险，又为公众提供了实用工具。