facebookresearch/deepconf

解決する課題

DeepConfは、数学、科学、コーディングなどの複雑なタスクにおける大規模言語モデル（LLM）の推論精度の向上という課題に取り組みます。並列思考（複数の推論パスの生成）を利用し、信頼度に基づく停止によって計算リソースを効率的に管理することで、回答の信頼性を高めることを目的としています。

仕組み

DeepConfは、vLLMなどのLLMサービングバックエンドのラッパーとして機能します。以下の2つのモードで動作する並列思考フレームワークを実装しています。

• Online Mode: ウォームアップトレースを使用して信頼度の閾値を設定します。十分な信頼度に達した時点で早期終了を適用して生成を停止し、計算リソースを節約します。
• Offline Mode: 推論トレースのバッチ（予算）を一括で生成し、さまざまな投票および集計戦略を適用して、最も可能性の高い正解を決定します。

対象者

アンサンブル手法（投票）を通じて回答の精度を向上させ、信頼度に基づく早期終了を使用して推論コストを最適化したい、推論重視のLLMを扱う開発者や研究者。

ハイライト

• vLLM Integration: vLLMの初期化パラメータおよびサービングバックエンドと完全な互換性があります。
• Confidence-Based Early Stopping: 信頼度の閾値に達したときに停止することで、オンラインモードにおける不要な計算を削減します。
• Flexible Voting Strategies: 並列推論トレースから最終的な回答を選択するための複数の集計方法をサポートしています。
• Comprehensive Output: 実行ごとに、信頼度バー、トークン使用量、タイミング統計を含む詳細なメタデータを提供します。