巴特兰圣战：人类为何禁止思考机器
Butlerian Jihad
在《沙丘》宇宙的宏大背景下，一场名为巴特兰圣战（Butlerian Jihad）的宗教战争彻底重塑了人类文明。这场持续近一个世纪的冲突，旨在消灭所有具有思考能力的机器和人工智能，防止人类被技术奴役。战争结束后，人类社会颁布了绝对禁令：'不得制造具有人类心智形象的机器'。这一禁令导致了技术的全面倒退，却也催生了 Mentat、Bene Gesserit 和 Spacing Guild 等独特的人类组织，以生物和人力替代了被禁止的机械智能。这场圣战不仅确立了人类精神的至高无上，更奠定了 Corrino Empire 数千年的封建秩序基础，深刻影响了整个银河系的命运走向。
我们必须否定那些会思考的机器，人类必须制定自己的准则，这不是机器能做到的，因为推理取决于编程而非硬件，而我们才是终极程序！
HN 评论区
129- tarpitt
我最喜欢的《沙丘》引文：
伟大是一种转瞬即逝的体验，它从不恒定。它在某种程度上取决于人类造梦的想象力。体验伟大的人必须对自己身处的神话有所感悟。他必须反映出投射在他身上的东西。他还必须拥有强烈的讽刺感。正是这种讽刺感使他与对自己虚妄的信仰脱钩。讽刺是他唯一能在内心自由移动的许可。若缺此特质，即便是偶尔的伟大也会毁掉一个人。
- cautiouscat
我觉得《沙丘》里关于思考机器的有趣之处在于，在许多科幻作品中，是人工智能本身决定要毁灭人类。而在《沙丘》中，真正差点毁灭人类的，是掌控这些机器的人类（技术官僚）。圣战既是对抗机器，更是对抗他们。
所以，某种意义上，我们更有可能看到《沙丘》版的“机器接管世界/宇宙”，而不是《终结者》版，尽管很多人拿 ChatGPT 或 Claude 是 Skynet 开玩笑。
- antihipocrat
页面末尾有这段话：
巴特兰圣战的另一个更微妙的理由也见于弗兰克·赫伯特的原著小说，特别是海德格尔的论点：使用技术会训练人类像机器一样思考。问题在于机器是确定性的；因此，把人训练成机器是自限的。
我想知道，海德格尔是否会认为大语言模型（LLM）的概率特性对人类思维有积极影响。
- bumbledraven
赫伯特似乎认为，作为人类的本质就是‘开放结局’，无论是个人还是物种，都具备未被发现的、不确定的进化能力。
确实如此。
- ks2048
在书中——是人类对抗机器吗？因为在我们的世界里，很明显将是人类+机器对抗人类（可能也加上一些机器）。
- randomImmigrant
我确实好奇，随着 AI 的广泛使用，人类大脑的进化方向会走向何方。
早期的迹象并不乐观，但我相信，通过刻意且深思熟虑的训练，我们的大脑比我们目前所认可的要强大得多。
- twowaway
我在《沙丘》宇宙中发现的关于 AI 最好的论述，无疑是蒂莫西·奥莱利（没错，就是那位 O'Reilly）写的：
- madrox
每当我重读原著时，我总会想象圣战是一场相当温和、甚至和平的行动，更像是一场抗议而非战争。就像有一天，人们开始在全球范围内滚动，砸毁数据中心和笔记本电脑。
让我颇感意外的是，他儿子写的那本小说，感觉像是一个俗套、平淡的“机器人失控”故事，这基本上是因为某个人/泰坦“毁了好事”，命令他的 AI 以无许可模式运行。