9router: とは何なのか、どのような問題を解決し、なぜ注目を集めているのか
9router: とは何なのか、どのような問題を解決し、なぜ注目を集めているのか
解決する問題
9Routerは、AIコーディングツールを使用する開発者のコスト削減とダウンタイム防止のために設計されたAIルーターです。CLIベースのAIエージェントを使用する際に、レート制限に達したり、未使用のサブスクリプション枠を無駄にしたり、冗長なツールの出力(git diff や ls など)によってトークンを大量に消費したりする問題を解決します。
仕組み
AIコーディングツール(例:Claude Code, Cursor, Cline)とさまざまなAIプロバイダーの間のスマートなプロキシとして機能します。以下を処理するOpenAI互換のAPIエンドポイントを提供します:
- トークン圧縮: RTKを使用して、ツール結果がLLMに到達する前に圧縮し、入力トークンを20-40%節約します。
- 階層型フォールバック: リクエストを優先順位リスト(Subscription $ ightarrow$ Cheap $ ightarrow$ Freeプロバイダー)に従って自動的にルーティングし、ダウンタイムゼロを実現します。
- フォーマット変換: 異なるプロバイダーのフォーマット間でリクエストとレスポンスを変換します(例:OpenAI $\leftrightarrow$ Claude $\leftrightarrow$ Gemini)。
- クォータ管理: トークン使用量とサブスクリプションのリセットをリアルタイムで追跡します。
対象ユーザー
AI搭載のCLIツールやエージェントを使用しており、APIコストを最適化したい、既存のサブスクリプションを最大限に活用したい、あるいは手動で設定を切り替えることなく無料のAIモデルにアクセスしたい開発者。
ハイライト
- RTK Token Saver: 入力トークンコストを削減するために、ツールの出力をロスレス圧縮します。
- スマート3層フォールバック: レート制限を回避するために、サブスクリプション、安価なモデル、および無料モデルの間で自動的に切り替えます。
- Ponytail & Caveman Modes: プロンプトインジェクションを使用して、LLMにより簡潔な回答をさせ、最小限の、YAGNI優先のコードを書かせることで、出力トークンを削減します。
- ユニバーサルな互換性: 主要なAIコーディングツールを通じて、40以上のプロバイダーと100以上のモデルに対応しています。
- マルチアカウントサポート: プロバイダーごとに複数のアカウント間でのラウンドロビン負荷分散を行います。
Sources
- undefineddecolua/9router