LLM 的自指能力：意外涌现还是核心秘密？
LLMs and Self-Referentiality
Scott Aaronson 在博客中反思了 Douglas Hofstadter 在《Gödel Escher Bach》中提出的观点，即智能的核心在于“自指”和“怪圈”。然而，2026 年的现实是，GPT 5.6 Pro 和 Fable 等 LLM 已经展现出超越人类的对话智能，却从未在技术栈中显式构建自指机制。这种能力并非人为设计，而是模型在预训练过程中，为了理解万物而自然涌现的副产品。Aaronson 认为，关于智能需要自指的理论，应像地心说和燃素说一样，被埋葬在人类历史上那些最重大错误想法的墓地里。真正的智能源于预测、压缩以及对 Kolmogorov 复杂性的逼近，而非刻意构建的怪圈。
但认为在获得令人信服且改变世界的对话智能之前，必须显式构建自指性？让这种想法像地心说、亚里士多德的目的论物理学、以太、燃素、Freud 的心理学、Marx 关于工人起义后迎来无阶级乌托邦的预言一样，被埋葬在威斯敏斯特教堂或阿灵顿国家公墓中吧，那里安息着人类历史上最重要的错误观念。
HN 评论区
65- thatjoeoverthr
它们缺乏自指能力是一个核心问题，支撑着推理过程中出现的许多缺陷，但得益于其广博的知识库加上智能体（agent）的辅助，这些问题被很好地掩盖了，因此需要刻意去“戳”一下才能察觉。所谓的“幻觉”现象正是如此。它们并不清楚自己知识的边界，只是信口开河，所以一旦你跳出常规范围，它们输出虚假声明的概率就会显著升高。RAG（我指的不是嵌入索引，而是任何信息摄入机制，比如智能体执行搜索）在某种程度上能有效弥补这一缺陷，足以让它们变得非常有用！但一旦出错，原因通常还是老一套。它们有其固有的特性，有时你难免会撞上南墙。
不过我想，这倒也不妨碍它们的推理能力！
- m-hodges
我在思考 LLM 时大量借鉴了《哥德尔、艾舍尔、巴赫》（GEB）中的概念。
关于自指性和 MU 谜题：https://matthodges.com/posts/2025-04-21-openai-o4-mini-high-...
关于提示安全 AI 的哥德尔式局限：https://matthodges.com/posts/2025-08-26-music-to-break-model...
关于模式匹配与推理之间模糊的界限：https://matthodges.com/posts/2026-08-19-bongard-problems/
我很高兴这篇帖子的作者最后写道：
> 还剩下什么？意识
因为当我阅读（并反复重读）GEB 时，我发现这本书的深度远超于仅仅作为对话智能的门槛。
- gwd
对此我有两点看法，试图采取“哪种假设更符合证据”的视角。
首先，LLM 描述自身体验并不能证明它真的拥有某种可被感知的体验，就像 LLM 自信地断言任何其他事实并不意味着它知道该事实为真一样。LLM 会描述音乐或口味，尽管它从未真正听过或尝过任何东西，仅仅是基于它读到的相关内容。同理，“无意识的辛辣自动补全”也能生成一个谈论自身体验的 LLM，其依据仅仅是它接收到的关于人们谈论自身体验的输入。
话虽如此/其次，从我对 LLM 架构的有限理解来看，我认为其中内置了大量的自指机制。例如，几乎所有的 Transformer 都有一个“残差层”（residual layer），各种神经网络本质上都在读取并修改它。这实际上形成了一个回路。此外，“思考”机制允许它读取自己生成的内容并继续生成更多内容，这同样是一个回路。
所以，也许人们当初并没有想：“嘿，我们应该造一些回路，也许这样就能让它产生意识”。但如果“怪圈”（strange loop）是定义意识的要素，那么里面确实存在大量回路，这种怪圈完全有可能在其中形成。
- macleginn
‘但认为在获得令人信服且能改变世界的对话智能之前，必须显式地具备自指性’——有人真正提出过这个观点，或者任何逻辑上等价的说法吗？这看起来像是一个极其严重的稻草人谬误。
- killerstorm
也许并不需要“真正的”自指性。但“动态反馈”似乎是必不可少的，而且它似乎与自指性相邻。
如果我们看优化过程，它首先进行前向传播以产生输出。然后它会检查前向传播期间发生的计算（我指的是反向传播），并调整参数，以便可能产生更好的输出。
这样表述的话，听起来很像自指性（系统审视它刚刚做的事！），但当然，实现非常简单：它只是存储前向传播中的激活值。训练过程不仅包含执行前向传播的代码，还包含该计算的完整描述，使其能够执行反向传播。因此，这是一种展开的自指性，实现起来并不困难。
如果研究人员能想出一个技巧来避免这两个独立、分离的传递过程，或许能实现更高效的学习。我们的大脑并不进行全局反向传播，而且在样本效率上更高。