LLM 正像认知病毒一样扩散
LLMs as a Cognitive Virus
这篇论文提出一个大胆观点：大型语言模型（LLMs）的普及过程更像是一种认知病毒的传播。研究团队通过建模分析，展示了LLM使用如何从独立用户演变为深度依赖，并在社会传播、集体强化和恢复机制的相互作用下，可能引发认知能力的突然下降。一旦越过临界点，微小的采用率增长就能触发大规模依赖，导致认知自主性的丧失。不过，研究也指出，通过降低传播速度和提升可逆性，人类仍有机会实现‘认知免疫’，避免陷入技术锁定。
一旦跨越临界阈值，微小的采用率增长就能触发整个人群向持久依赖状态的快速转变，并伴随认知能力的骤然丧失。
HN 评论区
204- Murfalo
我很欣赏这种思路，但在我看来，这种表述方式有点煽动性，也不太厚道。几乎任何涉及思想交流的事物都可以被看作是一种病毒！这是因为，从进化生物学的角度来看，思想就是基因在认知层面的等价物（事实上，“模因”这个词正是由此而来）。
有一个专门的领域叫“进化模因学”，就是研究这个的。文化价值观、营销、宗教、社交媒体、教育、宣传等等，用这个视角去看待都非常自然。甚至我们日常语言中使用的术语（比如“病毒式传播”）似乎也在直觉上把握到了这一点。
那我朋友向我推荐他最喜欢的书，算不算是一种病毒呢？嗯，我想算是吧，但这只是思想运作的方式罢了。以上纯属个人浅见。
- dzink
当一个人花时间与他人相处时，他们会自然而然地将部分思考过程外包出去。这就是团队效率提升的来源。婚姻会让夫妻变成共享大脑的两个半部分——一个人承担一部分认知负荷（比如财务、子女教育等），另一个人承担另一部分（也许是家务、税务，诸如此类）。单个大脑能承载的负荷是有限的，所以与他人融合、将任务外包给他人，对大脑来说是一种自然的感觉。LLM 给人一种它们具备承担负荷的认知能力的错觉，但它们缺乏记忆的一致性。你会欣然以为自己终于甩掉了一个任务，结果你托付给它的模型在幕后被悄悄替换了，或者它并没有在你外包的任务上进行训练和改进，又或者推理提供商只是愚蠢地做了量化处理。与此同时，你的技能已经退化了，而你的任务也失败了。是的，它们在部分任务、部分时间里确实让人感觉很爽，但表现依然非常不稳定（即便是同一个模型，在不同日期或一天中的不同时段表现都不同）。这更像是在赌博和获取可变奖励，而不是找个伴侣。
- jjk166
“如果人们学会了这种[书写]，它将在他们的灵魂中植入遗忘；他们将不再锻炼记忆，因为他们依赖那些写下来的东西，不再从内心唤起记忆，而是借助外在的标记。”
——苏格拉底
- Upvoter33
我不明白这有什么有趣的；任何变得“流行”的东西似乎都可以被贴上“病毒”的标签，包括像“拥有冰箱”这样的事情。这能提供什么特别的洞见呢？
- ionetan
这让我想到了一个相关话题：认知债务的成本。我觉得是时候开始量化我们不再掌握系统和基础设施主要部分这一事实意味着什么了。一旦我们量化了它，就可以开始探讨如何应对它。
我在这篇文章中探讨了这一概念：
https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html
- SoStupid
光是措辞就充满了《Idiocracy》（白痴进化论）的味道。
我们的后代回望这个时代时会怎么想。
他们并没有试图解决衰老问题，也没有致力于让所有人都达到最高的生活水平；他们不关心连接世界、探索世界和寻找他人。
他们纠结于一个文字计算器是否是反基督者。他们聚集在当时的最高法庭，召集最杰出的头脑，讨论线性代数是否会带来末日审判。
他们排斥任何敢于自动化繁琐工作或基于公有领域（小写）成果进行创造的创造性或生产性活动……
因为任何此类放纵在伊甸园中都成了大罪，是亚当必须永远不得获取的禁果，以免他变得和我们一样！
- jeffreyrogers
我认为这种观点的某些方面是真实的。我肯定在某些方面，现在的编程技能不如刚开始使用 LLM 时那么强，但我现在的生产力要高得多，而且能处理比之前更广泛的软件类型。书写可能削弱了人们的听觉记忆，计算器可能降低了人们的心理计算能力，但我不认为这两者总体上是负面的。这只需要一些调整来适应新的做事方式。我也认为，如果我再开始不用 LLM 编程，我的编程技能会很快恢复，就像我准备面试时 LeetCode 技能会很快恢复一样。
- foobarbecue
这种“认知病毒”与 Dawkins 最初构想的“模因”一词的原意非常相似。