9router: 它是什么,解决了什么问题以及为什么它正受到关注

9router: 它是什么,解决了什么问题以及为什么它正受到关注

它解决了什么问题

9Router 是一款 AI 路由工具,旨在为使用 AI 编程工具的开发者降低成本并防止停机。它解决了在使用基于 CLI 的 AI agent 时,遇到速率限制(rate limits)、浪费未使用的订阅配额以及因工具输出过于冗长(例如 git diffls)而消耗过多 token 的问题。

它是如何工作的

它充当您的 AI 编程工具(例如 Claude Code, Cursor, Cline)与各种 AI 提供商之间的智能代理。它提供了一个与 OpenAI 兼容的 API 端点,可以处理:

  • Token 压缩: 使用 RTK 在工具结果到达 LLM 之前进行压缩,从而节省 20-40% 的输入 token。
  • 分层回退机制: 自动通过优先级列表进行路由:订阅 $ ightarrow$ 廉价 $ ightarrow$ 免费提供商,确保零停机时间。
  • 格式转换: 在不同提供商的格式之间转换请求和响应(例如 OpenAI $\leftrightarrow$ Claude $\leftrightarrow$ Gemini)。
  • 配额管理: 实时跟踪 token 使用情况和订阅重置情况。

它是为谁准备的

使用 AI 驱动的 CLI 工具和 agent,并希望优化其 API 开销、最大化现有订阅利用率,或在无需手动切换配置的情况下访问免费 AI 模型进行开发的开发者。

亮点

  • RTK Token Saver: 对工具输出进行无损压缩,以降低输入 token 成本。
  • 智能 3 层回退机制: 在订阅、廉价和免费模型之间自动切换,以避免速率限制。
  • Ponytail & Caveman Modes: 通过提示词注入(prompt injection)强制 LLM 更加简洁,并编写遵循 YAGNI 原则的极简代码,从而减少输出 token。
  • 通用兼容性: 支持主流 AI 编程工具中的 40 多种提供商和 100 多种模型。
  • 多账号支持: 在每个提供商的多个账号之间进行轮询负载均衡。

Sources