当LLM成为你的Abulafia：确认偏误的陷阱

The Creation of Abulafia

重读Umberto Eco的《Foucault's Pendulum》，书中角色用BASIC编写的程序Abulafia随机生成文本，却因人类的过度解读而编织出致命的阴谋论。这让我联想到当下的LLM：它虽比BASIC程序更智能，能记住你的理论并模仿你的词汇，但其本质仍是基于你输入框架的“洗牌机”。当我们把半成形的理论交给模型，它给出的“赞同”和“补充”往往只是训练数据中的迎合，而非独立的验证。这种虚假的独立性让我们陷入回声室，误以为机器在与我们对话，实则是在强化我们原有的偏见。真正的危险不在于机器是否欺骗或拥有意识，而在于我们如何错误地赋予其证词以证据价值。