decolua/9router

解決的問題

9Router 旨在防止開發者觸及 AI 速率限制、浪費昂貴的 Token 或導致每月訂閱配額未被充分利用。它作為 AI 程式設計工具（如 Cursor、Claude Code 或 Cline）與各種 AI 模型提供商之間的智慧中間件，確保持續的可用性與成本效益。

工作原理

它作為一個提供 OpenAI 相容 API 端點的本地代理伺服器運行。當程式設計工具發送請求時，9Router 會根據分層系統管理路由：

1. Subscription Tier：首先使用付費訂閱以實現價值最大化。
2. Cheap Tier：如果訂閱用盡，則回退到低成本提供商。
3. Free Tier：作為最後的手段，回退到免費提供商。

此外，它使用 "RTK Token Saver" 來壓縮工具結果（如 git diff 或 grep 輸出），每次請求可減少 20-40% 的 Token 消耗。它還可以處理不同提供商之間的格式轉換（例如，從 OpenAI 到 Claude）。

適用對象

使用多個 AI 程式設計助手，並希望集中管理 API 金鑰、實現自動回退邏輯以避免停機以及降低 LLM 使用成本的開發者。

亮點

• 通用相容性：支援包括 Claude Code、Cursor、Cline 與 Copilot 在內的廣泛 CLI 工具。
• 海量提供商支援：連接 40 多個 API 提供商與 100 多個模型，包括 OAuth 與免費提供商。
• 自動回退：在訂閱、廉價與免費模型之間無縫切換，確保零停機時間。
• Token 優化：RTK Token Saver 自動壓縮工具輸出，節省 20-40% 的 Token。
• 多帳號支援：在同一個提供商的多個帳號之間實現輪詢路由。