9router: コストを最小限に抑え、レート制限を回避するための自動フォールバックとトークン圧縮機能を備えたスマートAIルーター

解決する課題

9Routerは、レート制限、サブスクリプションのクォータ枯渇、および高いAPIコストによって引き起こされるコーディングの中断を防ぐために設計されたスマートAIルーターです。開発者が複数のAIプロバイダーとモデルをCLIツールに接続し、トークン使用量とコストを自動的に管理できるようにします。

仕組み

AIコーディングツール（Claude Code、Cursor、またはClineなど）とさまざまなAIプロバイダーの間のプロキシとして機能します。このルーターは3段階のフォールバックシステムを実装しています。まず有料サブスクリプションの使用を試み、次に安価なAPIモデルへフォールバックし、最後に無料プロバイダーへと切り替えます。また、LLMに到達する前にツールの出力（git diffやファイルリストなど）を圧縮する「RTK Token Saver」も含まれており、入力トークンの消費を削減します。

対象ユーザー

AI搭載のCLIツールやIDEを使用しており、サブスクリプションの価値を最大化し、レート制限によるダウンタイムを回避し、全体的なAPI支出を削減したい開発者。

ハイライト

• スマート3段階フォールバック: リクエストを Subscription $ ightarrow$ Cheap $ ightarrow$ Free モデルへと自動的にルーティングし、ダウンタイムゼロを実現します。
• RTK Token Saver: ツールの出力（例: git diff, ls, grep）を圧縮して、入力トークンの20-40%を節約します。
• Universal Compatibility: OpenAI、Claude、Gemini、およびその他の形式を相互に変換し、あらゆるOpenAI互換のCLIツールで動作します。
• Wide Provider Support: OAuthや無料プロバイダーを含む、40以上のAPIプロバイダーと100以上のモデルに接続します。
• Quota Tracking: サブスクリプションの使用を最大化するために、リアルタイムのトークン数とリセットのカウントダウンを提供します。
• Prompt Injection: LLMにより簡潔な回答をさせ、最小限のコードを書かせるための「Caveman」や「Ponytail」といったモードを含んでおり、出力トークンを節約します。