diegosouzapw/OmniRoute

何を解決するか

OmniRouteは、APIレートリミット、期限切れのクォータ、高コストによって引き起こされるコーディングの中断を防ぐAIゲートウェイです。数百のAIプロバイダーと無料ティアを単一のエンドポイントに集約し、ツールの設定を変更せずにモデルとプロバイダー間を自動的に切り替えることができます。

どうやって動くか

OmniRouteは、localhost:20128で動作するローカルプロキシとして機能し、OpenAI互換ツール（Cursor、Claude Code、Clineなど）からのリクエストを290プロバイダーの広大なネットワークに変換します。4つのレベル（サブスクリプション、APIキー、Cheap、Free）を経由してリクエストをルーティングする「ティアカスケード」システムを使用します。上位ティアのプロバイダーが失敗したり制限に達したりした場合、次の利用可能なオプションにサイレントにフォールバックします。

対象ユーザー

これは、複数のコーディングエージェントとLLMを使用し、無料ティアを最大限に活用し、予期しない請求を避け、開発中のダウンタイムをゼロに保ちたい開発者およびAIパワーユーザー向けに設計されています。

ハイライト

• 巨大なプロバイダーネットワーク: 90以上の無料ティアと516モデルを含む290のプロバイダーにアクセスできます。
• 自動フォールバック: リクエストが常に応答を得られるように、コスト最適化、レイテンシー優先、品質優先などの19種類のルーティング戦略があります。
• トークン圧縮: RTKとCavemanのスタック圧縮を使用し、トークン使用量を平均で89%削減（範囲は15%から95%）。
• ゼロコンフィグスタート: 事前に配線されたキーレスの無料プロバイダーにより、インストール直後から動作します。
• ローカルファーストプライバシー: AES-256-GCMで暗号化されたキーとローカルファーストアーキテクチャを特徴とします。