diegosouzapw/OmniRoute

何を解決するか

OmniRoute は、数十種類の異なる AI プロバイダー SDK、API キー、レート制限を手動で管理する必要をなくす AI ゲートウェイです。数百の AI プロバイダー（150 以上の無料トライアルを含む）にアクセスするための単一エンドポイントを提供し、特定のプロバイダーが障害や制限に達した場合でも継続的なサービスを確保するための自動フェイルオーバー機構を自動化します。

動作方法

このシステムは、AIツール（Cursor、Claude Code、Clineなど）とさまざまな AI バックエンドの間のプロキシとして機能します。OpenAI互換の /v1 エンドポイントを提供し、ユーザーがツールをローカルサーバーに接続できるようにします。4段階の自動フェイルオーバー（サブスクリプション → API → コスト効率の良い → 無料）というルーティング戦略と、トークン圧縮技術（RTK + Caveman）を用いて、トークン使用量を15〜95％削減します。

対象ユーザー

複数の AI コーディングエージェントやツールを使用し、予期しない請求を避け、さまざまな無料トライアルのクォータを管理し、複数の LLM プロバイダーへのローカル優先の信頼性の高い接続を維持したい開発者や AI パワーユーザー向けに設計されています。

主な特徴

• 大規模なプロバイダーネットワーク：単一エンドポイントから 370 以上の AI プロバイダーと 150 以上の無料トライアルにアクセス可能。
• 自動フェイルオーバー：稼働率を維持するための信頼性の高いルーティングで、プロバイダーを自動的に切り替えます。
• OpenAI互換性：OpenAI互換ツールであれば、即座に動作します。
• トークン圧縮：RTK と Caveman の統合圧縮により、15％～95％のトークンを節約できます。
• ゼロ設定スタート：インストール直後すぐに動作する、キー不要の事前設定済みプロバイダーを含んでいます。
• プロダクション対応機能：回路ブレーカー、TLSステルス、AES-256-GCM暗号化キーを備え、プライバシーを確保します。