decolua/9router

9Router – AI 编码助手的智能路由器

它是什么 – 9Router 是一个本地运行的服务（Node.js/Next.js），位于你的 AI 编码工具（Claude Code、Cursor、Codex、OpenClaw 等）和你可访问的各种 LLM 提供商之间。它提供一个单一的 OpenAI 兼容端点（http://localhost:20128/v1），工具可以调用该端点。

为什么重要 – 许多开发者使用消耗大量令牌的 AI 编码助手（例如，发送完整的文件差异、搜索结果或终端列表）。为高配额商业 API 付费很快变得昂贵，速率限制可能中断工作。9Router 试图让你不间断编码，同时削减令牌账单。

核心功能（根据 README 描述）

功能	作用	好处
RTK Token Saver	在 tool_result 负载到达模型之前压缩它，每次请求减少 20-40% 的令牌使用。	降低每次请求的成本。
配额跟踪与多账户	监控每个基于订阅的提供商剩余多少令牌，并可以在多个账户之间轮询。	确保在配额重置前用尽付费配额。
自动回退路由	定义三个层级 – 订阅（付费）、廉价（低成本 API）和免费 – 并在更高层级配额用尽或达到预算限制时自动切换。	无需手动重新配置；即使提供商被限流，服务也能继续响应。
格式转换	在 OpenAI、Anthropic、Claude 等之间转换请求/响应格式，使任何客户端无需代码更改即可与任何后端通信。	一个端点适用于许多不同的后端。
支持 40+ 提供商	包括主要商业 API（OpenAI、Anthropic、Gemini、Groq、Mistral 等）以及免费层级（Kiro AI、OpenCode Free、Vertex AI）和自托管服务器（llama.cpp、vLLM、whisper.cpp 等）。	提供大量模型和价格点选择。
仪表板	位于 http://localhost:20128/dashboard 的 Web UI，显示提供商状态、配额使用情况和日志。	轻松可视化监控和快速提供商配置。
Docker 与 npm 分发	发布在 npm（9router）和 Docker 镜像（decolua/9router）上。	在任何平台上简单安装。

工作原理 – 数据流

你的 CLI 工具 → http://localhost:20128/v1 → 9Router
    │                               │
    │   • 压缩 tool_result (RTK)    │
    │   • 转换请求格式             │
    │   • 选择提供商（层级 1 → 2 → 3）
    ▼                               ▼
选定的 LLM 提供商（例如，Claude、OpenAI、Kiro）→ 响应 → 9Router → CLI 工具

路由器根据当前配额和配置的优先级列表决定调用哪个后端。

快速开始（README 中的快速入门步骤）

1. 全局安装：npm install -g 9router && 9router – 这将启动仪表板。
2. 添加免费提供商（无需注册），如 Kiro AI 或 OpenCode Free，通过 UI。
3. 将你的编码助手指向本地端点（http://localhost:20128/v1）并复制仪表板中显示的 API 密钥。
4. 开始编码 – 助手现在将通过 9Router 路由，在需要时自动回退到更便宜或免费的模型。

对于想要运行源代码的开发者，仓库提供了典型的 Next.js 开发命令和生产构建脚本，其中包括针对低内存环境的临时交换文件技巧。

谁可能使用它？

• 个人开发者，依赖 AI 编码助手并希望避免速率限制或支付高额每令牌费用。
• 小团队，拥有多个付费 API 密钥并希望有一个单一控制点。
• 开源爱好者，尝试自托管 LLM 后端并需要统一的 OpenAI 兼容网关。

限制与注意事项（根据 README）

• Kiro AI 的免费层级现在限制为每月 50 积分；服务的价值取决于免费积分的可用性。
• 一些免费提供商（例如，iFlow、Qwen Code）在 2026 年已停止服务，因此提供商列表可能需要定期更新。
• 路由器本身不执行任何模型级推理 – 它仅转发请求，因此延迟是所选后端加上本地处理开销的总和。

---

简而言之： 9Router 是一个实用的开源路由层，让你保持 AI 编码工具持续运行，同时自动节省令牌并在付费、廉价和免费 LLM 提供商之间切换。