BillionsBobby/JevRouter

解决的问题

JevRouter 防止 AI 代理在 "下一个应该由哪个工具或功能处理？" 这个简单但关键的问题上浪费推理令牌。它用快速、专用的决策模型（Jev）替代昂贵的推理模型来处理路由决策，同时将推理模型保留用于执行和回退。

工作原理

JevRouter 作为代理与一组能力（模型、子代理、MCP 工具、CLI 和插件）之间的集成层。它使用 Jev API 将结构化状态转换为带概率分布的类型化决策。

关键机制包括：

• 路由与规划：route 处理单次决策，而 plan 使用串行、批量或分解策略，为多步骤任务确定一系列能力。
• 决策契约：Jev 提供决策概率，JevRouter 强制执行可用性、权限、风险级别和确认要求。
• 两阶段路由：如果候选数量超过限制，路由器会先进行粗粒度的 Top-K 过滤，再进行最终选择。
• 能力发现：它可以自动从本地 Skill 目录、MCP 服务器配置、CLI 帮助命令和 DSH 插件清单中发现工具。

适用人群

需要一种快速、低成本且可审计的方式，将请求路由到正确工具或子代理，而不会过度消耗 LLM 令牌的 AI 代理开发者。

特色亮点

• 统一路由契约：一个接口支持模型、子代理、Skills、MCP 工具、CLI 和插件。
• 仅决策模式：不会隐式执行任何工具；高风险能力需要显式确认。
• 可审计的收据：提供带有来源哈希的追加式决策和计划文件，实现完全可审计性。
• 多步规划：支持束搜索序列选择和多样性惩罚，以优化多步工具序列。
• 本地仪表板：无需上传数据即可监控路由统计和延迟的只读本地仪表板。
• SDK 和 CLI：提供全面的 SDK 和 CLI，便于集成到 Codex 和 Claude Code 等代理中。