higress-group/HiRoute

Make Codex and Claude Code subscriptions go further: a local model router that gives routine agent work to economical models and keeps your strongest model for the hard parts.

它解决了什么问题

当每条消息都使用同一个强大的模型时，像 Codex 和 Claude Code 这样的 AI 编码代理可能会变得非常昂贵。HiRoute 通过充当本地路由器来检查每个请求从而解决这个问题：常规工作（如阅读代码或收集事实）被发送到经济型模型，而设计决策和棘手的修复则保留给您的付费订阅或主要模型。这使得固定订阅和 API 预算能够走得更远，而不会牺牲困难部分的质量。

工作原理

HiRoute 作为桌面应用程序 (macOS) 或无头 CLI 和守护进程 (Linux) 在本地运行。您连接您的代理客户端（例如 Codex, Claude Code）并定义路由计划。该计划包含四种模式之一：固定模型、难度路由、自定义分支或免费优先。对于难度路由，HiRoute 使用单独的“决策模型”来判断每条新的用户消息，并估计它是简单还是复杂。如果简单概率达到您的阈值，且任务未被早期阶段的低能力分数阻塞，它会选择经济的常规模型；否则它会使用主要模型。在一次对话中，工具调用保持相同的决策，以便上下文保持可缓存。在收到新消息或重建上下文时，HiRoute 会再次进行判断。该系统还支持自定义任务分支（例如起草与审查），并可以通过 Worker 计划将独立任务委托给其他代理。每次会话都会记录实际运行的模型、其使用情况及其成本，您可以查看与每个执行阶段相关的性能分数。

适用人群

HiRoute 适用于预算有限并使用 AI 编码代理的开发人员和团队——特别是那些订阅了 Codex, Claude Code, Qoder, Pi 或 DeepSeek Harness 的用户。它也适用于任何想要更好地控制哪种模型处理哪种类型工作，并希望进行透明成本跟踪和定义自定义路由规则的人。它针对 macOS 15+ (Apple silicon 或 Intel) 和 Linux (x86_64 或 ARM64) 用户，适合习惯运行本地服务的用户。

亮点

基于难度的路由 – 判断每条消息，将简单任务路由到廉价模型，将复杂任务路由到您的最佳模型。
有界故障转移 – 如果模型候选者失败，HiRoute 会在同一类别内尝试有序回退，如果所有候选者都耗尽，则明确失败。
自定义扩展 – 通过 API 连接您自己的决策服务，或使用内置的决策模型 (Bailian, OpenRouter Jev, TypeSafe)。
透明监督 – 查看每次会话的模型、使用情况、成本和能力分数，以验证路由决策。
本地运行 – 桌面应用程序或无头 CLI/守护进程；无云依赖。
开源 – Apache-2.0 许可，具有 Rust 工作区和 Tauri 桌面客户端。