looplj/axonhub

⚡️ Open-source AI Gateway — Use any SDK to call 100+ LLMs. Built-in failover, load balancing, cost control & end-to-end tracing.

解決する課題

AxonHubは、ベンダーロックインを排除し、統合の複雑さを軽減するために設計されたAIゲートウェイです。統一されたAPI変換レイヤーを提供することで、開発者がアプリケーションコードを変更することなく、異なるAIモデルプロバイダー（OpenAI、Anthropic、Gemini、DeepSeekなど）の間を切り替えられるようにします。

仕組み

AxonHubは、アプリケーションと様々なAIプロバイダーの間の透過的なプロキシとして機能します。あるSDK（例：OpenAI SDK）からのリクエストを、別のプロバイダー（例：Anthropic）が必要とする形式に変換し、「Any SDK $\rightarrow$ Any Model」の接続を可能にします。また、AIチャネルの設定、コスト追跡、リクエストのモニタリングを行うための管理ダッシュボードを備えています。

対象ユーザー

AIスタックの柔軟性を維持し、単一のプロバイダーに縛られることを避け、異なるモダリティにわたる複数のAI APIの管理を簡素化したい開発者やエンタープライズチーム向けに構築されています。

ハイライト

  • 統一API変換: コードを一切変更せずに、OpenAI SDKを使用してClaudeを呼び出したり、Anthropic SDKを使用してGPTを呼び出したりできます。
  • オブザーバビリティ: スレッドを認識したタイムラインを備えた、組み込みのフルリクエストトレーシングにより、デバッグを迅速化します。
  • エンタープライズ管理: きめ細かなRBAC（ロールベースアクセス制御）、使用量クォータ、データ分離機能を備えています。
  • 信頼性: 高可用性を確保するため、100ms未満で自動フェイルオーバーを行うスマートロードバランシングを搭載しています。
  • コスト管理: 入力、出力、キャッシュトークンのリアルタイム追跡と、リクエストごとのコスト内訳を提供します。
  • 幅広いプロバイダーサポート: OpenAI、Anthropic、Gemini、DeepSeek、Zhipu AIなどに互換性があります。