kittors/CliRelay

何を解決するか

CliRelay は、複数の AI CLI サブスクリプション、API キー、OAuth 認証情報を統合するための統合プロキシサーバーです。OpenAI、Gemini、Claude、Codex 互換クライアントであれば、既存のサブスクリプションをそのまま利用でき、複数の異なるエンドポイントや認証方法を管理する必要がなくなります。

動作方法

デフォルトでポート 8317 を使用するゲートウェイとして、Google Gemini、Anthropic Claude、OpenAI Codex などの上流プロバイダーをフロントに配置します。AI コーディングツールからのリクエストをこれらのプロバイダーにプロキシし、以下の管理機能を追加します：

• ルーティング & ロードバランシング：API キー間でラウンドロビンまたはフィルストスケジューリングを実行し、バックアップチャンネルへの自動フェイルオーバーをサポート。
• ガバナンス：ロール、権限、監査ログを備えたマルチテナントモデルで、異なるユーザーおよびチームのアクセスを管理。
• 可視性：すべてのリクエストを PostgreSQL データベースにログ記録し、トークン数、レイテンシ、ステータスを追跡。Redis を使ってリアルタイムの状態とキャッシュを管理。
• 管理：Web ベースのコントロールパネル（/manage）とターミナル TUI を提供し、プロバイダーの設定、API キーの管理、使用状況の監視が可能。

対象ユーザー

• 開発者とチーム：複数の AI コーディングツールとサブスクリプションを使用しており、トラフィックを集中管理・ルーティングしたい人。
• セルフホスティングユーザー：グループ向けに本番環境対応のセルフホスティングプロキシを構築したい人。
• AIツールの上級ユーザー：詳細なリクエストログ、クォータ制御、複数プロバイダー間でのマルチモーダル対応を求める人。

主な特徴

• 統合エンドポイント：Gemini、Claude、Codex、Qwen、xAI/Grok、Bedrock など、多数のプロバイダーに対応する単一のエントリポイント。
• マルチテナント：テナント、ユーザー、細かい権限モデルを完全サポート。
• 詳細なモニタリング：PostgreSQL で圧縮ストレージされた包括的なリクエスト記録と、WebSockets を通じたリアルタイムシステム統計。
• クォータ & レート制限：キーベースのトークンおよびリクエストクォータを自動的に強制し、定期的にリセット。
• OpenAI互換性：OpenAI Chat Completions プロトコルに対応する上流プロバイダーと互換。
• セキュリティ機能：ネイティブな OAuth フロー、コンテンツモデレーションプロファイル、クライアント識別ヘッダーを削除するリクエストクローキング。