停止将中间 Token 拟人化为推理轨迹

中间 Token 并非“思考”过程

中间 Token 生成 (Intermediate Token Generation, ITG) 是一种标准方法，通过在得出最终解决方案之前产生输出，来提高语言模型在复杂推理任务上的性能。然而，在 ICML 2026 上发表的一篇立场论文《Position: Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces!》指出，将这些输出称为“推理轨迹”或“思考轨迹”是一种危险的拟人化行为。作者认为，这些术语暗示模型正在遵循类人的认知步骤，这误导了社区对这些模型本质的理解，并导致了值得怀疑的研究方向。

“思考”隐喻的危险性

核心论点是，将中间 Token 视为观察模型“思维过程”的可解释窗口，是对 LLM 架构的一种根本性误解。因为这些模型是基于概率生成 Token 的，所以生成的文本实际上是一系列预测，而不是对解决方案的有意识推导。

文中引用了一个具体的例子，即“aha”时刻——模型可能会输出一个表示突然领悟的 Token。作者认为这并不是内部状态变化的迹象，因为模型的正向传播过程与前一次相比，仅仅是因为上下文包含了该 Token。将此类时刻解释为有意义的认知转变是一种毫无根据的假设。

工程与研究的影响

将这些 Token 拟人化会对 AI 系统的审计和开发产生实际后果。如果中间 Token 不能忠实地反映底层计算，它们就无法作为可靠的审计工件。

从解释转向可复现性

技术讨论表明，与其试图让模型的内部叙述变得更具可解释性，工程师们应该专注于提高计算的可复现性。这包括记录实际输入、模型版本、配置和工具观察结果，以隔离不同运行之间的差异，而不是要求模型解释其“想法”。

轨迹与结果之间的脱节

来自社区的观察揭示了一种常见的失败模式：模型经常输出一段“推理轨迹”，其中它们识别出了错误（“等等，那不对”），但随后在最终答案中犯了完全相同的错误。这种脱节表明，Token 的名义含义并不总是决定最终的输出。

社区观点与反论点

研究人员和从业者之间的讨论揭示了对于如何看待这些 Token 的分歧：

• 隐喻观点： 一些人认为，“推理 Token”只是“已学习的提示词增强 Token”的一个方便的简称，大多数严肃的研究人员将其视为一种隐喻，而非对认知的字面描述。
• 功能观点： 另一些人建议，虽然 Token 并不在“思考”，但它们充当了一种“数字草稿本”的形式。生成中间文本通过提供一个可供参考的结构化上下文，帮助模型更有效地计算最终答案。
• RL 的影响： 有些人指出，强化学习 (RL) 会奖励准确的最终答案，这迫使模型培养纠错习惯。虽然这使得输出看起来像人类的思考（例如，验证和纠错步骤），但它仍然是一个概率生成的机械过程。
• 人类类比： 一个反论点认为，人类的内心独白也不一定总是潜意识数据处理的忠实反映，这表明“轨迹”与“结果”之间的差距是人工智能和人类智能的共同特征。

"如果中间 Token 不能忠实地反映计算，那么它们也是相当糟糕的审计工件。我们可能不应该试图让模型的内部叙述变得更具可解释性，而是应该让其周围的计算变得更具可复现性。"

结论

ICML 2026 论文的作者呼吁 AI 社区在描述中间 Token 时放弃使用“思考”和“推理”这类语言。通过将这些轨迹视为黑盒或机械增强，而不是认知窗口，研究人员可以避免过度心理化的陷阱，并开发出更稳健、更具落地性的方法来评估和审计 AI 性能。