modelbus/one-api-pro

one-api-pro is an enterprise-grade AI API Gateway built on one-api(oneapi). It has undergone a full architectural redesign, adding support for subscription plans, active-active clusters, precise billing. one-api-pro是基于one-api(oneapi)的企业级AI API Gateway网关,进行了架构级别的重构,全新支持套餐订阅、多活集群、精确计费、渠道成本管控等功能,适合企业级多员工、多模型统一管理与私有化部署

OneAPI Pro – エンタープライズグレードAI APIゲートウェイ(Go + Vue 3)

概要 – 多くの大規模言語モデルプロバイダー(OpenAI、Anthropic、Gemini、DeepSeekなど)の前に配置されるセルフホスト型ゲートウェイで、単一のOpenAI互換HTTP APIを公開します。フル機能の管理コンソール、トークンベースのアクセス制御、サブスクリプション/プラン課金、使用状況ダッシュボード、オプションの分散型マルチノードクラスタリングを追加します。

主要コンポーネント

  • バックエンド – Goで記述され、Gin Webフレームワーク上に構築されています。リレーショナルDBアクセス(SQLite、MySQL、PostgreSQL)にはGORMを使用し、キャッシュにはオプションでRedisを使用します。プラグインレジストリを介してAWS Bedrock、Google Gemini、その他数十のLLMプロバイダーと統合します。
  • フロントエンド – Arco Designで構築されたVue 3 + Vite UI。視覚的なダッシュボード(モデル使用状況チャート、トークン制限、プラン管理、クラスターノードステータスなど)を提供します。
  • デプロイメント – 単一の静的バイナリ(Linux/macOS/Windows)またはDockerイメージ(ghcr.io/modelbus/one-api-pro)として配布されます。手動、Docker、docker-compose、マルチマシン、完全に分散化されたマルチアクティブクラスターセットアップをサポートします。

重要性

  • 統一アクセス – チームは一貫した/v1/...エンドポイントを通じて多くの異なるLLMサービスを呼び出すことができ、クライアントコードを簡素化します。
  • エンタープライズ制御 – きめ細かいトークンポリシー(モデルホワイトリスト、IPサブネット制限、クォータ上限、有効期限)、ロールベースの権限(ゲスト、ユーザー、管理者、ルート)、監査ログ。
  • 収益化 – 組み込みのサブスクリプションプラン、トークンごとまたはリクエストごとの価格設定、自動コスト計算、リアルタイムの残高チャージのためのWeChat PayおよびAlipayとの統合。
  • スケーラビリティ – プロバイダー間のロードバランシング、自動フェイルオーバー、各ノードが独自のMySQL/Redisを実行し、アプリケーションレベルのイベントを介して変更を同期する「分散型マルチアクティブクラスター」モード—共有データベースは不要です。

はじめに

  1. プリコンパイル済みバイナリをダウンロードします(または./release.shを実行して全プラットフォーム用にビルドします)。
  2. Vue管理UIをビルドします(cd web && sh build.sh)。
  3. ./one-api-pro --port 3000 --log-dir ./logsを実行します。
  4. デフォルトのroot / 123456アカウントでログインし、Web UIを介してプロバイダー、トークン、プランを設定します。

設定 – すべての設定は環境変数または.envファイルを介して提供されます(例:データベース用のSQL_DSN、キャッシュ用のREDIS_CONN_STRING、UIテーマを選択するためのTHEME、分散クラスターモードを有効にするための一連のCLUSTER_*変数)。

ドキュメント – 完全なAPIリファレンス(OpenAI互換エンドポイント、管理CRUD、クラスター同期API)はdocs/API.mdにあります。プロジェクトには多言語README(英語、中国語、日本語、ロシア語、韓国語、アラビア語、ドイツ語など)も同梱されています。


OneAPI Proは、エンタープライズ対応のAI APIゲートウェイおよび管理プラットフォームを提供する、本物の積極的にメンテナンスされているオープンソースプロジェクトです。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト