中間トークンを推論の痕跡として人間化するのをやめる

中間トークンは「思考」プロセスではない

中間トークン生成（ITG）は、複雑な推論タスクにおける言語モデルの性能を向上させるために、最終的な解答の前に出力を生成するという標準的な手法です。しかし、ICML 2026で発表された位置表明論文『Position: Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces!』は、これらの出力を「推論の痕跡」や「思考の痕跡」と呼ぶことが危険な人間化であると主張しています。著者らは、これらの用語がモデルが人間のような認知的ステップを踏んでいるように見せることで、モデルの本質についての誤解を招き、信頼性の低い研究を生み出していると指摘しています。

「思考」という比喩の危険性

核心的な主張は、中間トークンをモデルの「思考プロセス」への解釈可能な窓口として扱うことは、LLMアーキテクチャの本質を根本的に誤解しているということです。これらのモデルは確率に基づいてトークンを生成するため、結果として得られるテキストは意識的な解法の導出ではなく、予測の連鎖にすぎません。

具体的な例として挙げられるのが「ああ、わかった！」という瞬間です。モデルが突然の認識を示すトークンを出力する場面です。著者らは、これが内部状態の変化を示すものではないと主張しています。モデルの順伝播は、前のステップと比べてそのトークンがコンテキストに含まれている点以外では、ほとんど差がありません。このような瞬間を意味のある認知的転換と解釈することは、正当な根拠のない仮定です。

エンジニアリングと研究への影響

これらのトークンを人間化することは、AIシステムの監査や開発方法に実際的な影響を与えます。中間トークンが下位の計算を忠実に反映していないならば、それらは信頼できる監査アーティファクトにはなりえません。

解釈から再現性への移行

技術的な議論では、モデルの内部説明をより解釈可能にする試みよりも、計算そのものをより再現可能にするべきだと提言されています。これは、実際の入力、モデルバージョン、設定、ツールの観測結果を記録し、実行間の差異を隔離することを意味します。モデルに「思考」を説明させるのではなく、その周囲の計算を再現可能にするべきです。

軌跡と結果の乖離

コミュニティからの観察では、モデルが「推論の痕跡」として誤りを指摘する（「待って、これは間違っている」）ものの、最終的な回答では同じ誤りを繰り返すという一般的な失敗モードが見られます。この乖離は、トークンの表層的な意味が必ずしも最終出力に支配的ではないことを示しています。

コミュニティの見解と反論

研究者や実務家間の議論から、これらのトークンの捉え方に分かれが見られます：

• 比喩的視点： 一部の人は、「推論トークン」というのは単に「学習されたプロンプト拡張トークン」の便利な省略表現であり、ほとんどの真剣な研究者はこれを比喩として扱っていると主張しています。
• 機能的視点： 他の人々は、トークンが「思考」しているわけではないものの、ある種の「デジタル下書きノート」として機能すると指摘しています。中間テキストを生成することで、モデルは構造的なコンテキストを提供され、最終的な回答をより効果的に計算できるようになります。
• RLの影響： 一部は、強化学習（RL）が正確な最終回答を報酬としているため、モデルは誤り修正の習慣を身につけざるを得ないと指摘しています。これにより出力は人間の思考のように見える（例：検証や修正ステップ）ものの、それは確率生成の機械的なプロセスにすぎません。
• 人間との類似性： 逆に、人間の内面的独白も常に無意識のデータ処理を忠実に反映しているわけではないと反論する意見もあります。つまり、「軌跡」と「結果」の乖離は、人工知能だけでなく人間の知能にも共通する特徴である可能性があるのです。

"中間トークンが計算の忠実な表現でないならば、それらは監査アーティファクトとしても非常に不適切なものである。モデルの内部説明をより解釈可能にするのではなく、その周囲の計算をより再現可能にするべきだと考えている。"

結論

ICML 2026の論文の著者らは、中間トークンについて「思考」や「推論」という言葉を使うのをAIコミュニティがやめるよう呼びかけています。これらの痕跡を認知の窓口ではなく、ブラックボックスや機械的な補助として扱うことで、過剰な精神化の罠を避け、より堅牢で根拠に基づいたAI性能の評価・監査手法の開発が可能になります。