fruitbars/simple-one-api

何を解決するか

複数の大規模言語モデル（LLM）プロバイダーへの統合ゲートウェイを提供し、複数の異なるAPIプロトコルを管理する必要をなくします。OpenAI Chat Completions、OpenAI Responses、Anthropic Messagesなどの標準クライアントプロトコルをサポートしながら、単一のインターフェースを通じてさまざまなモデルとやり取りできます。

動作方法

このプロジェクトは、リクエストをさまざまなAIプロバイダーにルーティングするプロキシサーバーとして機能します。ランダム、優先、ポーリング、ハッシュベースの方法を用いたリクエスト分散を可能にするルーティングシステムを備えています。ReactベースのWebチャットインターフェースと、プロバイダー、モデル、資格情報の管理に使える視覚的な設定コンソールを内蔵しています。設定情報はSQLiteで保存され、スタンドアロンサーバーまたはWailsベースのデスクトップアプリケーションとしてデプロイ可能です。

対象ユーザー

複数のAIモデルプロバイダーを一元的に管理し、単一のAPIゲートウェイ経由でアクセスしたいユーザーおよび開発者、またAIサービスの管理に視覚的インターフェースを好むユーザーに最適です。

主な特徴

• マルチプロトコル対応: OpenAIおよびAnthropic APIフォーマットと互換性があります。
• 柔軟なルーティング: 複数のプロバイダーおよび資格情報間でランダム、優先、ポーリング、ハッシュルーティングをサポートします。
• 統合UI: 内蔵のWebチャットインターフェースと視覚的な設定ダッシュボードを備えています。
• レジリエンス機能: プロバイダーおよびモデルレベルで回路遮断とハーフオープン回復を実装しています。
• デプロイオプション: 単一ファイルサーバー、Dockerイメージ、またはデスクトップアプリケーションとして利用可能です。