别再只把LLM看作Next-Token Predictor
Stop Thinking of LLMs as Next-Token Predictors
严格来说，说LLM是Next-Token Predictor没错，但这只是零阶近似。预训练阶段，模型确实是在学习预测训练数据中已有的下一个token。但现代LLM经过RLVR等后训练，不再仅模仿现有文本，而是通过自主探索生成新序列，并根据结果奖励来优化。就像国际象棋引擎，一个只模仿大师走法，另一个则通过穷举探索寻找最优解。前者是预测器，后者是决策者。LLM的本质已从单纯预测转向探索与推理，继续用Next-Token Predictor的思维理解它，会忽略其真正的智能潜力。
它描述了机制的形状，一个token接一个token地输出，却忽略了该机制所编码的内容。
HN 评论区
289- arjie
它们确实“只是下一个词预测器”。但火箭入轨也“只是向前和向上飞”。斯蒂芬·库里也“只是下一个三分球得分手”，以此类推。正如文章所指出的，国际象棋引擎也“只是下一步棋生成器”。一个完美的神谕式交易系统也“只是下一笔交易生成器”。事实证明，“下一个 n 执行者”是一个真正的模型，却几乎解释不了什么。
- simonw
我真的很喜欢这篇帖子中的伪代码示例——这是我见过的关于推理和训练如何工作的最清晰简化的解释之一。
- Systemerror7A69
老实说，我觉得我理解了这篇文章试图表达的观点，在某种程度上我也同意，但我也认为这个观点并没有阐述得很清楚。
我理解的核心论点是：LLM 不仅仅使用训练数据，还使用新数据。这很好，你不能简单地假设 LLM 只是把所有输入数据拼凑在一起给出一个平均值——但至少我仍然会称之为“下一个词预测器”。
它不仅仅使用训练数据，它所做的其实是预测下一个词以找到解决方案。就我业余的知识而言，LLM 仍然是逐个词地进行，根据上下文决定哪个词最合适。
它不是基于训练数据进行预测，而是基于 RLVR 等更多因素进行预测，试图达到最优解（在解可以最优的范围内）。
我真心认为，时刻牢记这一点，对于理解和应对 LLM 非常有帮助。
- emtel
我会说这甚至不是错的。你说它是一个下一个词预测器。我说它不是。系统的什么可观察行为能解决我们的分歧？
我看不出任何可能的输出能让我们要改变主意。
- mofeien
将其描述为“下一个词预测器”，暗示它在本质上仅限于推理步骤的一小部分，这是双重错误的：
1. 为了选择有意义句子的第一个词，它必须已经在内部（主要是在权重/激活中，或者由其状态向量索引）捕捉到了后续内容的结构和含义。
2. 当你使用 LLM 时，你看到的不是紧邻提示词的下一个词预测，而是遵循一段长度不一的下一个词预测序列，这段序列碰巧解决了你提示词中的问题，并总结了结果。
- bluegatty
“下一个词预测器”是一个有限的思维模型，但它实际上比任何其他模型都好。
“模式匹配”比“推理”更好的直觉，尽管我认为名义上，在该语境下使用“推理”一词完全没问题。它只是一个带有太多包袱的词汇。
“它没见过这个模式”是对 AI 局限性的更好描述，因为它确实几乎无法泛化。文章中描述的适应并没有改变这一点。
那些是突变，而非能力的扩展。
- Planktonne
我不会因为有人写了一篇不断削弱其自身主要观点的文章，就停止准确地描述事物。将我们谈论和思考 LLM 的方式限制在一组非常狭窄的术语中，对我们没有任何帮助。
编辑：语气更温和一点
- gblargg
如果你深究下去，任何产生输出的系统都是“下一个词预测器”。每个编译器，每个生成输出的工具。甚至网页渲染引擎也是：下一个像素预测器。