OpenRouter Fusion API: 高性能のためのマルチモデル合成

OpenRouter は Fusion API を導入しました。このシステムは単一のユーザーリクエストを複数の LLM に同時にルーティングし、ジャッジモデルを用いてそれらの応答を最終的な高性能な回答に合成します。このアプローチは、並列テスト時計算を活用してフロンティアモデルの性能を超えることを目指しています。

パフォーマンス向上とトレードオフ

Fusion の主な価値提案は、深いリサーチや複雑な推論タスクにおいて性能を向上させる能力です。OpenRouter のベンチマークによると、API には次の 2 つの主要なプリセットがあります。

• Budget Preset（コスト重視プリセット）: 3 つの安価なモデルを使用し、性能はおおむね「Fable」モデルに匹敵しますが、コストは Fable の半分です。
• Quality Preset（品質重視プリセット）: 3 つの高価なモデルを使用し、Fable の性能を上回りますが、コストは 2 倍になります。

しかし、これらの向上には大きな運用上のトレードオフが伴います。ユーザーによる定性的評価では、Fusion は単一のフロンティアモデル（例: GPT-5.5 や Claude Opus 4.7）を直接呼び出す場合に比べ、最大で 7 倍遅く、4 倍高コストになることが示唆されています。したがって、Fusion は高リスクタスクに「必要なときだけ使う」ツールとして位置付けられ、単一モデル推論の汎用的な代替とはなりません。

テスト時計算の役割

OpenRouter のデータから得られた重要な発見は、同一モデルを複数インスタンスで実行（例: Claude Opus 4.8 を複数走らせる）するだけでも性能が向上することです。これは、改善の主な要因が必ずしもモデルアーキテクチャの多様性ではなく、総テスト時計算量の増加であることを示唆しています。

コミュニティの議論では、マルチモデルコンセンサスが本当に加算的かどうかが論点となっています。一部の開発者は、フロンティアモデルは類似したデータセットで訓練されているため「エコーチェンバー」になり、統計的ノイズを提供するだけで実質的な知的多様性は生まれないと主張しています。別の見方として、単一モデルの温度を上げて複数の候補を生成すれば同様の効果が得られるという意見もあります。

代替実装戦略

コミュニティの複数の開発者は、結果を最適化するために類似の「コンソーシアム」や「アンサンブル」パターンを実装しています。

• エキスパート・ペルソナ: 同じプロンプトを複数モデルに送るのではなく、各インスタンスに特定の専門的ペルソナを事前に設定し、異なる知的視点を強制して実際の議論を生成します。
• マルチラウンドレビュー: モデル同士が互いの作業をレビューし合うクロスレビューラウンドを実装しますが、トークン使用量が爆発的に増加します。
• ランク＆合成: コスト管理のため、まず高速で安価なモデル（例: Mercury-2）で候補プールからベストな応答をランク付けし、最後に大規模モデルが最終合成を行います。

実用的なユースケース

一般的なチャットでは Fusion の恩恵は少ないかもしれませんが、トークン効率が重要な特定タスクには最適です。

• アーキテクチャレビュー: コーディング開始前に Markdown 仕様書の抜け漏れを分析する際、複数 LLM 呼び出しのコストは、欠落要件の価値に比べて無視できる程度です。
• 複雑なコード監査: エージェントの群れを使ってファイルのアーキテクチャ上の問題をレビューし、ラウンドロビンで応答と反論を行い、最終的な所見をまとめます。
• 並列戦略テスト: 異なるエージェント戦略を並行して実行し、ジャッジがバリエーションをレビューして単一の直線的パスでは見落としがちな洞察を発見します。