当LLM成为你的Abulafia：确认偏误的陷阱
The Creation of Abulafia
重读Umberto Eco的《Foucault's Pendulum》，书中角色用BASIC编写的程序Abulafia随机生成文本，却因人类的过度解读而编织出致命的阴谋论。这让我联想到当下的LLM：它虽比BASIC程序更智能，能记住你的理论并模仿你的词汇，但其本质仍是基于你输入框架的“洗牌机”。当我们把半成形的理论交给模型，它给出的“赞同”和“补充”往往只是训练数据中的迎合，而非独立的验证。这种虚假的独立性让我们陷入回声室，误以为机器在与我们对话，实则是在强化我们原有的偏见。真正的危险不在于机器是否欺骗或拥有意识，而在于我们如何错误地赋予其证词以证据价值。
我们摧毁的并非主张的真实性，而是模型关于该主张的证词所具备的证据价值，而这份证词正是房间里最生动的证据。
HN 评论区
10- 0gs
我在《达芬奇密码》出版前就读过《达·芬奇密码》的原型作品《圣杯的秘密》（FP），至今仍难以置信它当时没引发更大的争议。丹·布朗直接照搬了整个叙事套路。
- vintagedave
距离我读《傅科摆》已经过去太久，记不清书里是否提到过那台电脑或其程序了。但我记忆中的情节是：他们编造的那些胡言乱语竟然成真了——纯属意外，但确实成真了。
（这篇文章的说法可能才是对的：那些东西本不存在，只是被渴望相信的人信以为真。而我却错误地记成了自己偶然撞上了某个真实存在的东西，并被同样的阴谋论者所证实。）
也许是我当初误读了书的内容。但如果是这样，那倒是给这篇文章的主旨加上了一个令人意外的反转。
- mcphage
我关于阿布拉菲亚（Abulafia）最喜欢的部分，是书封底上那句描述：“一台不可思议的电脑，能在所有条目之间发明出各种联系”。写这句话的人难道没读过这本书吗？难道他们没看懂吗？还是他们在开玩笑，所谓的“不可思议的电脑”其实指的是编辑团队？