AI推理是真实还是幻觉？

Is AI Reasoning Right for the Wrong Reasons?

作为科技记者，我目睹了AI推理领域令人眩晕的反复：OpenAI的模型刚在数学难题上取得突破，Apple的研究团队却指出这不过是“思考的幻觉”。Santa Fe Institute的Melanie Mitchell直言，LRM生成的推理链往往与模型内部运作无关，甚至可以被随意移除而不影响结果。从Google DeepMind与Terence Tao的合作成果，到研究者发现“无意义填充词”也能替代推理步骤，这场关于AI是否真正“思考”的争论愈发激烈。我们或许正陷入一种认知陷阱：将模型输出的文字痕迹误认为真实的逻辑推理。