LanceZPF/agent-as-a-router

解決する課題

ACRouter (Agent-as-a-Router) は、コーディングタスクにおけるパフォーマンスとコストのトレードオフに対処します。すべてのリクエストに対して単一の高価な高性能モデルを使用するのではなく、特定のコーディング問題の複雑さと要件に基づいてタスクを異なるバックエンドモデルにインテリジェントにルーティングし、コストと精度の両方を最適化します。

仕組み

このシステムは、特定のタスクに最適なモデルを選択するエージェント型ルーティングメカニズムを実装しています。候補モデルのリスト、最初に試す「安価なチェーン」(cheap chain)、および初期の試行が失敗した場合に強力なモデルへエスカレーションするパスを設定できます。ルーターは検証器を使用してモデルの回答が正しいかどうかを確認します。回答が検証に失敗した場合、ルーターはタスクをより高性能な（通常はより高価な）モデルにエスカレーションします。

対象ユーザー

パフォーマンスを犠牲にすることなく、AI 支援コーディングツールの API コストを削減したい開発者や研究者。特に、Claude Code、Codex、Opencode などの CLI ツールにモデルルーティングを統合するユーザーにとって非常に有用です。

ハイライト

• ランタイム統合 (Runtime Integrations)：Claude Code Router および cc-switch 向けの統合が用意されており、ゲートウェイおよびプロキシレベルのルーティングが可能です。
• CodeRouterBench：コーディングタスクにおけるルーティングのパフォーマンスとコスト効率を評価するための専用ベンチマークデータセット。
• 設定駆動型パイプライン (Config-Driven Pipeline)：カスタム設定ファイルを使用して新しいモデルやベンチマークを評価するための柔軟なパイプライン。
• 検証器ベースのエスカレーション (Verifier-Based Escalation)：検証器が合格するまでモデルリストを通じてタスクをルーティングするメカニズムにより、品質管理を保証します。