AI末日预言背后的理性主义者亚文化
Sex, AI, and the Apocalypse
2026年，Anthropic研究员Jacob Coxon辞职并警告AI可能在十年内导致人类灭绝，引发轩然大波。这并非孤立的营销噱头，而是源于一个特定的互联网亚文化群体。从Eliezer Yudkowsky创立的Singularity Institute到LessWrong社区，再到Raymond Arnold组织的Secular Solstice仪式，这群自诩思维更清晰的“理性主义者”正深度影响AI安全领域。文章揭示了这一群体如何通过独特的社交网络、信仰仪式和思想实验，将AI末日焦虑转化为一种近乎宗教的集体行动，并探讨其背后复杂的社会结构与潜在风险。
构建AI的人们真诚地相信，到本十年末，它可能会杀死我们所有人。
HN 评论区
236- throwaway13337
我们思考 AI 的框架，很大程度上是由一群相当同质化的人精心培育出来的。这些人，就像所有属于某个亚文化群体的人一样，几乎肯定会陷入群体思维。
把这群人视为一个整体至关重要。他们不是成千上万个独立的观点，而是一群相互关联、立场一致的人的合唱；他们都读过同样的东西，和同一拨人交谈过，并且因为持有相似的想法而隐性地受到奖励。
他们中的许多人都在看 HN，对我这样描述他们感到愤慨。但我们作为人类，身处某种文化包围之中时，这种缺陷是不可避免的。
在另一个宇宙里，我们不会不停地拿 AI 和核弹做比较。我敢打赌，那个世界的末日概率（P(doom)）会更低。
- vinkelhake
我并不是说没有奇怪的事情在发生，但这篇文章确实搞了很多“有罪关联”（guilt-by-association）。我们把新反动派（neoreactionaries）、多角恋理性主义者、末日 AI 研究者和 Zizians 全都织进了同一个大网里。
- arcticfox
这种“我们不能信任发出警告的人，因为他们要么是怪胎，要么就是利益相关”的整套说辞，角度实在很奇怪。你完全可以从零开始，看看当下已知正在发生的事情，然后直接推导出灾难的必然性。
这就像在观看第一次核试验时，担心奥本海默（Oppenheimer）及其团队在夸大其词一样。
- cameldrv
当事情变得诡异时，怪胎们就转行做专家了。很少有人具备能力或性情去推理那些从未发生过的事情。那些具备这种能力的人，通常都有着怪异的心理特征。通常你可以忽略他们。但偶尔，你无法忽略他们。
- walrus01
哦，天哪，又来了。如果你想真正直面一些彻底掉进理性主义兔子洞的人的个人历史，我推荐去听《Behind the Bastards》播客关于 Zizians 的几集。是的，哈利·波特同人小说在其中占据了显著位置。
https://www.google.com/search?client=firefox-b-d&q=behind+th...
- Animats
如果你想见识那个圈子的“性”部分，Slutcon 下周就要开了。[1]
票价是 3300 到 10000 美元。这是 Aella 的杰作。地点在加州伯克利，组织者和父帖文章中提到的伯克利“rat”社区有很大程度的重叠。
- raincole
作者似乎对 Yudkowsky 和他的 HP 同人小说有着非常奇怪且强烈的执念，并借公众对 AI 公司的仇恨之机来嘲讽他。
- narmiouh
政府内部最大的担忧是：任何试图给 AI 发展踩刹车的尝试都会导致经济衰退。因此，历史将被书写为：为了赢得一场选举（这对执政党来说几乎注定是一场必输的赌局），他们把人类的未来置于险境。