diegosouzapw/OmniRoute

Never stop coding. Free MIT AI gateway: one endpoint, 352 providers (150+ free), 1200+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550+ contributors

📦 OmniRoute とは何ですか？

OmniRoute は、オープンソースのAIゲートウェイであり、任意の LLMプロバイダーを1つの OpenAI 互換エンドポイント（例：http://localhost:20128/v1）経由で呼び出すことを可能にします。自動的に最適なバックエンド（有料サブスクリプションから完全無料のTierまで）を選択し、最初のプロバイダーが失敗した場合に別のプロバイダーにフォールバックできます。開発者が設定不要、コストゼロでLLMを使用できるようにするという目標のもと、使用状況、クォータ、トークン節約の圧縮を追跡します。

🔑 コア機能（READMEに記載）

機能	内容
352のAIプロバイダー / 150以上の無料Tier	OmniRouteは、34の定期的なプールキーにまたがる444件の無料Tierエントリをカタログ化し、1つのエンドポイントから公開しています。
自動フォールバックルーティング	19のルーティング戦略（サブスクリプション → APIキー → 安価 → 無料）により、プロバイダーがダウンまたはリクエスト制限された場合でもリクエストを維持できます。
トークン圧縮（RTK + Caveman）	プロンプトを送信する前に15〜95％のトークンを節約（平均約89％）し、無料Tierの予算を大幅に延長します。
リアルタイムクォータテレメトリ	ダッシュボード（`/dashboard/free-tiers`）では、現在の無料トークン予算（月間約14.7億トークン）と各プロバイダーごとの使用状況を確認できます。
ゼロ設定起動	`npm i -g omniroute` でインストール後、サーバーは `localhost:20128` で起動します。`auto` モデルを呼び出すだけで、APIキーなしで即座に動作します。
マルチモーダリティ（視覚／音声／動画）	v3.8.50で追加 – ルーターは画像、音声、動画ペイロードを、それらをサポートするプロバイダーに転送できます。
プライベート／ローカルファーストモード	AES-256-GCMで暗号化されたキーを保存可能。チーム間でゲートウェイを共有しつつ、クラウドにシークレットを晒さずに済みます。
CLI と MCP 統合	完全なコマンドラインインターフェースと「マルチクライアントプロキシ」を備えており、36の既存CLI/エージェント（例：Claude Code、Cursor、Cline）と統合可能です。
Docker と Electron ビルド	npmパッケージ、Dockerイメージ、デスクトップアプリとして利用可能で、あらゆるプラットフォームで簡単にデプロイできます。
豊富なドキュメントとコミュニティ	ドキュメント、Python/Node/PHP/cURL用のクイックスタート例、Discord/Telegramコミュニティ、公開されたロードマップがあります。

🚀 動作方法（概要フロー）

インストール – npm i -g omniroute（またはDockerイメージを取得）。サーバーがローカルで起動します。
ツールの設定 – 任意のOpenAI互換クライアントを http://localhost:20128/v1 に設定します。
リクエスト送信 – 特殊なモデル名 auto（または特定の無料バックエンド用に oc/...）を使用します。
ルーターが判断 – OmniRouteはクォータ、健全性、コストを確認し、圧縮を適用した後、選択されたプロバイダーにリクエストを転送します。
レスポンス返却 – クライアントは標準的なOpenAI形式のJSON応答を受け取り、下位のプロバイダーが何であるかに気づきません。

📊 誰が恩恵を受けるか？

数十のAPIキーを管理せずに、多数のLLMを実験したい開発者や趣味の研究者。
使用状況を透明に保ちながら、コストを$0に抑えることを目指すチーム。
プロバイダーの障害にかかわらず安定したエンドポイントが必要なツール開発者（IDE拡張、CLIエージェントなど）。
統一されたAPIの下で多数のモデルをベンチマークしたい研究者。

📚 詳細情報の入手先

クイックスタートスクリプト：examples/quickstart/（Python、Node、PHP、cURL）。
無料Tierのメソッド：docs/reference/FREE_TIERS.md。
ロードマップと変更履歴：ROADMAP.md および README のバージョンテーブル。
コミュニティ：Discord、Telegram、WhatsAppグループ、および公開サイト omniroute.online。

🛠️ 技術スタック（リストされたもの）

Node.js ランタイム（npmパッケージ omniroute）。
Docker コンテナによるサーバー展開。
Electron によるデスクトップUI。
RTK + Caveman 圧縮アルゴリズム。
AES-256-GCM 暗号化によるローカルファーストキー保存。

📦 インストールオプション（要約）

npm：npm i -g omniroute → localhost:20128 で実行。
Docker：docker pull diegosouzapw/omniroute。
ソース：リポジトリをクローンし、pnpm/npm で実行。
Electron：GitHubリリースからダウンロード。

🎉 まとめ

OmniRouteは、実際のプロダクショングレードのゲートウェイであり、数百のLLMプロバイダーを統合し、自動的にコストと可用性を最適化し、プラグアンドプレイ可能なOpenAI互換APIを提供します。AIツールキット分野に明確に位置づけられ、複数のキーを管理したり、使用料を支払ったりする手間なくLLMを使いたいすべての人にとって、実用的な価値を提供しています。