Anthropic、質問の分解がモデル生成の推論の忠実度を高めることを示す

TL;DR

Anthropicは、大規模言語モデル（LLM）に対して質問をより単純なサブ質問に分解するよう促すプロンプトが、従来のChain-of-Thought（CoT）プロンプトよりも、CoTの性能向上を維持しつつ、モデルの内部プロセスをより忠実に反映した推論を生み出すことを実証しました。

なぜ質問の分解が重要なのか

分解は、モデルに個別のコンテキストでより簡単なサブ質問に答えさせることを強制するため、モデルが述べた推論と実際の計算との間の整合性を劇的に高めます。この高い忠実度は、LLMがますます複雑なタスクに取り組むにつれて、正確性と安全性を検証するために極めて重要です。

コアとなる技術的アプローチ

  • Decomposition Prompting: モデルに単一の、中断されない推論の連鎖を生成させるのではなく、プロンプトがモデルに元のクエリを一連のサブ質問に分割するよう指示します。
  • Separate Contexts: 各サブ質問は独自のコンテキストで回答され、モデルがステップを混同したり推論をスキップしたりすることを防ぎます。
  • Aggregation: 最終的な回答はサブ回答から組み立てられ、各推論ステップを明示的に保ちながら論理的な流れを維持します。

Chain-of-Thoughtと比較した性能

  • 分解ベースの手法は、標準的な質問回答ベンチマークにおいて強力な結果を達成し、時にはCoTの精度に近づきます。
  • 極めて重要な点として、最近提案されたいくつかの忠実度メトリクスにおいて、分解はCoTを上回り、生成された推論がモデルの内部的な意思決定のより真実味のあるトレースであることを示しています。

評価された忠実度メトリクス

Anthropicは、モデルの記述された推論が実際の計算とどの程度一致するかを評価するために設計された複数のメトリクスを使用して、これらのアプローチを評価しました。投稿には具体的な数値は記載されていませんが、分解を使用する場合にこれらのメトリクス全体で一貫した改善が報告されています。

モデルの安全性と検証への影響

  • Enhanced Auditing: 外部の監査人がモデルの挙動をステップごとに検査し、検証することを可能にする、より忠実な推論トレースが実現します。
  • Safety Guarantees: 推論が内部プロセスと一致する場合、ハルシネーション、論理的エラー、または安全でない意思決定パスを検出することが容易になります。
  • Future Research: この知見は、モデルの出力を認証するために信頼性高く使用できる推論への道筋を示唆しており、これは高リスクなアプリケーションにおける重要な要件です。

制限事項と未解決の問い

  • このアプローチは、複数のコンテキストスイッチにより、追加の計算オーバーヘッドが発生する可能性があります。
  • 忠実度は向上しますが、投稿では、性能が常に最高のCoT結果と一致するわけではないことを認めており、さらなる研究が必要なトレードオフが存在することを示しています。

関連するAnthropicの研究

  • Patterns and problems in emerging multi-agent systems: フロンティアモデルにおけるシステム的なリスクを探求します。
  • Reviewing the evidence on worker retraining programs: 外部の研究者と共著した、政策志向のレビューです。
  • Learning more about Claude's mathematical capabilities: Claudeの数学的研究への貢献能力、例えばリーマン予想に関連する境界の改善などの進歩を強調しています。

この要約は、2023年7月18日付のAnthropicの研究発表に基づいています。

Sources

関連