modelbus/one-api-pro

OneAPI Pro – 企業級AI API閘道（Go + Vue 3）

簡介 – 一個自架閘道，位於許多大型語言模型供應商（OpenAI、Anthropic、Gemini、DeepSeek等）之前，並暴露單一的OpenAI相容HTTP API。它增加了功能齊全的管理控制台、基於令牌的存取控制、訂閱/方案計費、使用儀表板以及可選的去中心化多節點叢集。

主要元件

• 後端 – 使用Go編寫，基於Gin Web框架。使用GORM進行關聯式資料庫存取（SQLite、MySQL或PostgreSQL），並可選擇使用Redis進行快取。透過外掛程式註冊表與AWS Bedrock、Google Gemini以及數十個其他LLM供應商整合。
• 前端 – 使用Arco Design建置的Vue 3 + Vite UI。提供視覺化儀表板（模型使用圖表、令牌限制、方案管理、叢集節點狀態等）。
• 部署 – 作為單一靜態二進位檔案（Linux/macOS/Windows）或Docker映像（ghcr.io/modelbus/one-api-pro）分發。支援手動、Docker、docker-compose、多機器以及完全去中心化的多活叢集設定。

重要性

• 統一存取 – 團隊可以透過一致的/v1/...端點呼叫許多不同的LLM服務，簡化用戶端程式碼。
• 企業控制 – 細粒度的令牌政策（模型白名單、IP子網路限制、配額上限、過期時間）、基於角色的權限（訪客、使用者、管理員、根使用者）和稽核日誌。
• 貨幣化 – 內建訂閱方案、按令牌或按請求定價、自動成本核算，以及與微信支付和支付寶的整合，實現即時餘額儲值。
• 可擴充性 – 跨供應商負載平衡、自動故障轉移，以及「去中心化多活叢集」模式，其中每個節點執行自己的MySQL/Redis，並透過應用程式層級事件同步變更——無需共用資料庫。

入門指南

1. 下載預先編譯的二進位檔案（或執行./release.sh為所有平台建置）。
2. 建置Vue管理UI（cd web && sh build.sh）。
3. 執行./one-api-pro --port 3000 --log-dir ./logs。
4. 使用預設的root / 123456帳戶登入，並透過Web UI設定供應商、令牌和方案。

設定 – 所有設定透過環境變數或.env檔案提供（例如，資料庫的SQL_DSN、快取的REDIS_CONN_STRING、選擇UI主題的THEME，以及啟用去中心化叢集模式的一系列CLUSTER_*變數）。

文件 – 完整的API參考（OpenAI相容端點、管理CRUD、叢集同步API）位於docs/API.md中。該專案還附帶多語言README（英語、中文、日語、俄語、韓語、阿拉伯語、德語等）。

---

OneAPI Pro是一個真正的、積極維護的開源專案，提供企業就緒的AI API閘道和管理平台。