AI 安全运动：一个由性 cult 驱动的行业
AI Safety Is Mostly a Sex Cult
AI 安全领域并非纯粹的技术讨论，其核心深受 Eliezer Yudkowsky 及其创立的 Rationalism 社群影响。这个起源于《Harry Potter and the Methods of Rationality》同人小说的群体，在 Berkeley 形成了独特的公社文化，甚至涉及 SlutCon 等争议活动。从 OpenAI 到 Anthropic，许多关键人物如 Sam Altman、Dario Amodei 都与该圈子有着千丝万缕的联系。文章指出，当前关于 AI 末日论和 AI Alignment 的讨论，本质上是一种带有宗教色彩的末日 cult 思维，其动机往往混杂着对资金的渴求和对权力的掌控，而非纯粹的理性分析。
理性主义作为一个整体是一场宗教运动，而核心成员在 Berkeley 的公社生活、聚会以及性 cult 活动，则是这场运动中最具争议的部分。
HN 评论区
141- iand675
我也写过关于这个话题的文章，不过篇幅要长得多。如果你想更深入地探讨，可以看看这篇：https://www.iankduncan.com/personal/2026-09-16-sex-ai-and-th...
- alexgieg
有更好的方式来提出这种批评。我看到的这篇文章的主要问题是，它基本上是一篇冗长的对人攻击（ad hominem），最后才附带了一些关于市场集中的有效担忧。
去掉所有的人身攻击，剩下的内容只有两段长。不过这两段是站得住脚的。
- perlgeek
我试着读了这篇文章，但不知为何它似乎并没有点明主旨。除了说明 Yud 并不完美，以及他与那些公开谈论自己性生活（且生活方式有些非主流）的人有联系之外，还有什么其他观点吗？
- glimshe
关于这个帖子，肯定有一部很棒的电影或流媒体剧集正在酝酿中。
有时候人太聪明反而害了自己。就像处于永恒幻觉循环中的前沿模型一样，你可以在脑海中构建出整个看似自洽的现实，最终把其他人也拉进这个幻境里。
- andor
如果作者正在看这条评论：我用其中一个上行链路访问该页面时遇到了 Cloudflare worker 异常，可能是因为 IPv6 的问题。
- brendyn
有时当我发现一个值得仰望和钦佩的人时，后来却发现他们身上可能隐藏着一些黑暗的现实。然后我会感叹，在这个世上竟然找不到任何好的榜样。如果他们滥用了捐赠资金，那确实糟糕透顶。如果他们推动的目标似乎与其宣称的使命背道而驰，那就很难评判了。
我一直觉得有点奇怪，在读了 Yudkowsky 充满激情的文章十年后，他似乎并没有真正为此做些什么。如果这一切对他来说只是一场创意写作练习……那对我而言将是一种羞辱，毕竟我是把它看得很严肃的。
顺便提一句。如果让我在“反对一家蓬勃发展的 AI 公司”和“成为这家公司的亿万富翁创始人”之间做选择，我仍然会选择成为创始人，然后利用我的资源去有所作为。这当然听起来很虚伪，但如果你想阻止一块滚落山丘的巨石，除了跑在它前面试图拦住它，你还能做什么呢？
- mjburgess
任何在这个时代创立热潮（即新无神论运动）期间在场的、真正理智的人，很快就会发现其许多狂热分子的核心存在深刻的病理，或许可以概括为一种“按自己的形象重塑宗教”的渴望。我曾走进过许多房间，里面的人都在尖叫，称教给孩子虚假的东西就是字面意义上的虐待儿童。任何了解 Richard Dawkins、Krauss 等人对待女性背景的人，对此也不应感到惊讶。
“加州化”渗入目前的“理性主义者”社区并不令人意外。我遇到的深入该社区的每一个人，在我看来，如果是男性就是自恋狂，如果是女性则礼貌而轻微地带有调情意味（coquettish）。在我观察到的几段关系中，这两种特质明显融合了。尽管我长期以来一直直接身处其中，目睹了这种交叉扩散，但我此前并未如此清晰地将这一切与