higress-group/HiRoute

Make Codex and Claude Code subscriptions go further: a local model router that gives routine agent work to economical models and keeps your strongest model for the hard parts.

解決する課題

Codex や Claude Code のような AI コーディングエージェントは、すべてのメッセージで同じ強力なモデルを使用するとコストが高額になる可能性があります。HiRoute はローカルルーターとして機能し、各リクエストを検査することでこの問題を解決します。コードの読み取りや事実収集などの日常的な作業は経済的なモデルに送信され、設計上の決定や複雑な修正はプレミアムサブスクリプションや主要モデルに任せられます。これにより、困難な部分の品質を犠牲にすることなく、固定サブスクリプションや API 予算を最大限に活用できます。

仕組み

HiRoute は、デスクトップアプリ (macOS) またはヘッドレス CLI およびデーモン (Linux) としてローカルで実行されます。エージェントクライアント (例: Codex, Claude Code) を接続し、ルーティングプランを定義します。プランには、固定モデル、難易度ルーティング、カスタムブランチ、無料優先の 4 つのモードのいずれかが含まれます。難易度ルーティングでは、HiRoute は個別の「決定モデル」を使用して各ユーザーメッセージを判断し、それが単純か複雑かを推定します。単純である確率がしきい値に達し、前の段階での低い能力スコアによってタスクがブロックされていない場合、経済的な通常モデルが選択されます。それ以外の場合は主要モデルが使用されます。1 つのターン内では、ツール呼び出しは同じ決定を維持するため、コンテキストはキャッシュ可能です。新しいメッセージやコンテキストの再構築時に、HiRoute は再度判断を行います。このシステムはカスタムタスクブランチ（例：ドラフト作成とレビュー）もサポートしており、Worker プランを通じて独立したタスクを他のエージェントに委任できます。すべてのセッションで、実際に実行されたモデル、その使用量、コストが記録され、各実行段階に関連付けられたパフォーマンススコアを確認できます。

対象ユーザー

HiRoute は、予算内で AI コーディングエージェントを使用する開発者やチーム、特に Codex, Claude Code, Qoder, Pi, DeepSeek Harness のサブスクリプションを持つユーザー向けです。また、どのモデルがどのタイプの作業を処理するかをより詳細に制御したい、透明性の高いコスト追跡やカスタムルーティングルールの定義を求めるすべての人に適しています。macOS 15+ (Apple silicon または Intel) および Linux (x86_64 または ARM64) ユーザーで、ローカルサービスの実行に慣れている方を対象としています。

ハイライト

難易度ベースのルーティング – 各メッセージを判断し、単純なタスクを安価なモデルに、複雑なタスクを最適なモデルにルーティングします。
境界付きフェイルオーバー – モデル候補が失敗した場合、HiRoute は同じカテゴリ内で順序付けられたフォールバックを試み、すべて使い果たした場合は明示的に失敗します。
カスタム拡張 – API を介して独自の決定サービスを接続するか、組み込みの決定モデル (Bailian, OpenRouter Jev, TypeSafe) を使用します。
透明な監視 – セッションごとのモデル、使用量、コスト、能力スコアを確認して、ルーティングの決定を検証します。
ローカル実行 – デスクトップアプリまたはヘッドレス CLI/デーモン。クラウド依存関係なし。
オープンソース – Apache-2.0 ライセンス。Rust ワークスペースと Tauri デスクトップクライアントを備えています。