QuantumNous/new-api

何を解決するか

New API は、複数のAIモデルAPIの管理を統合するためのLLMゲートウェイおよびAIアセット管理システムです。複数のAPIキーの分散管理、さまざまなモデルフォーマットの処理、およびOpenAI、Claude、Geminiなど複数のプロバイダー間での使用状況とコストの追跡を、単一のインターフェースから行う問題を解決します。

動作方法

ユーザーとさまざまなAIモデルプロバイダーの間にプロキシ層として機能します。異なるAPI間でのリクエストフォーマットの変換（例：OpenAI互換リクエストをGoogle GeminiやClaude Messages形式に変換）を自動的に行い、認証とルーティングのための統一インターフェースを提供します。チャンネルの設定、ユーザーのクォータ管理、およびインテリジェントルーティング（重み付きランダム選択や失敗時の自動リトライなど）を実装する管理コンソールを備えています。

対象ユーザー

複数モデルへのアクセスを管理したい組織、開発者、および認可されたAIサービスプロバイダー向けです。組織レベルの認証を実装し、社内または認可された企業顧客向けの詳細な使用状況分析とコスト会計を追跡する必要がある方々に最適です。

主な特徴

• マルチモデル対応：OpenAI、Claude、Gemini、Azure、Midjourney-Proxy、Suno-APIをサポート。チャット、画像、音声、動画、埋め込みなど、専用インターフェースを備えています。
• フォーマット変換：OpenAI互換、Claude Messages、Google Geminiフォーマット間の自動変換をサポート。
• 使用状況の会計：内部チャージとクォータ割り当てをサポート。EPayおよびStripeに対応し、リクエスト単位のコスト会計も可能。
• インテリジェントルーティング：チャンネルの重み付きランダムルーティング、失敗時の自動リトライ、ユーザー単位のレート制限を実装。
• エンタープライズセキュリティ：Discord、Telegram、LinuxDO経由のOIDC統合認証と承認ログインをサポート。
• 推論努力の制御：OpenAI o3-miniおよびGeminiモデルに対して推論努力（低、中、高）を設定可能。Claude 3.7 Sonnetでは思考モードを制御できます。