ding113/claude-code-hub

解決する課題

CC Hubは、チームが複数のAIプロバイダー（Claude、OpenAI、Geminiなど）へのアクセスを統合できるように設計されたAI APIプロキシおよび管理プラットフォームです。異なるサービスごとに個別のAPIキーやエンドポイントを管理する必要性を排除し、弾力的なスケジューリング、コスト管理、およびオブザーバビリティのための集中化されたハブを提供します。

仕組み

Next.js 16、Hono、PostgreSQL、およびRedisで構築されたこのシステムは、クライアントとAIプロバイダーの間のゲートウェイとして機能します。認証、セッション管理、レート制限、およびプロバイダー選択を含むパイプラインを通じてリクエストを処理します。サーキットブレーカー保護を備えた重み付け負荷分散器を使用して、リクエストを最も安定したプロバイダーにルーティングし、最大3回のフェイルオーバー試行を行います。また、プラットフォームは5分間のコンテキストキャッシュを維持し、セッションの一貫性を確保し、頻繁なプロバイダーの切り替えを回避します。

対象ユーザー

主に、複数のAIモデルプロバイダーを使用しており、並行性の管理、コストの追跡、およびAIサービスの高可用性を確保するためのプロフェッショナルグレードのゲートウェイを必要とするチームや開発者向けです。

ハイライト

• インテリジェントな負荷分散: 重み付け、優先順位付け、グループ化を使用し、組み込みのサーキットブレーカー保護と自動フェイルオーバーを備えています。
• マルチプロバイダー対応: Claude、Codex、Gemini CLI、およびOpenAI互換APIを統合し、カスタムモデルリダイレクトが可能です。
• きめ細かな制御: Redis Luaスクリプトを使用して、多次元的なレート制限（RPM、予算、同時セッション）をアトミックに実装しています。
• リアルタイムモニタリング: 使用量、コスト、アクティブセッション、および決定チェーンログを追跡するためのダッシュボードを備えています。
• OpenAI互換性: ツール呼び出しや推論フィールドを形式変換なしでパススルーする /v1/chat/completions エンドポイントを提供します。
• 自動ドキュメント化: SwaggerとScalar UIを使用して、OpenAPI 3.1.0仕様を自動生成し、テストを容易にします。