BillionsBobby/JevRouter

何を解決するか

JevRouterは、AIエージェントが「次のタスクを処理するにはどのツールや機能を使用すべきか？」という単純だが重要な質問に推論トークンを無駄に消費することを防ぎます。高コストな推論モデルの代わりに、高速で専用の決定モデル（Jev）を使用してルーティング判断を処理し、推論モデルは実行とフォールバックに専念します。

動作方法

JevRouterはエージェントと複数の機能（モデル、サブエージェント、MCPツール、CLI、プラグイン）の間の統合レイヤーとして機能します。Jev APIを使用して構造化された状態を型付きの決定と確率分布に変換します。

主なメカニズム：

• ルーティングと計画：routeは単一の決定を処理し、planは直列、バッチ、または分解戦略を使用して複数ステップのタスクの機能シーケンスを決定します。
• 決定契約：Jevは決定確率を提供し、JevRouterは利用可能性、権限、リスクレベル、確認要件を強制します。
• 二段階ルーティング：候補数が制限を超える場合、ルーターはまず粗いTop-Kフィルタを実行し、その後最終選択を行います。
• 機能の自動発見：ローカルのSkillディレクトリ、MCPサーバー設定、CLIヘルプコマンド、DSHプラグインマニフェストからツールを自動的に発見できます。

対象ユーザー

LLMトークンを過剰に消費せずに、正しいツールやサブエージェントにリクエストをルーティングできる、高速で低コストかつ監査可能な方法を必要とするAIエージェント開発者。

特徴

• 統一されたルーティング契約：モデル、サブエージェント、Skills、MCPツール、CLI、プラグインのすべてに一つのインターフェース。
• 決定専用モード：ツールは暗黙的に実行されない。高リスク機能は明示的な確認が必要。
• 監査可能なレシート：証明可能性ハッシュ付きの追加のみ可能な決定および計画ファイルで完全な監査性を実現。
• 複数ステップ計画：ビームシーケンス選択と多様性ペナルティをサポートし、複数ステップのツールシーケンスを最適化。
• ローカルドッシュボード：データをアップロードせずにルーティング統計と遅延を監視できる読み取り専用のローカルドッシュボード。
• SDKとCLI：CodexやClaude Codeなどのエージェントに簡単に統合できる包括的なSDKとCLIを提供。