fruitbars/simple-one-api

解決的問題

提供一個統一的網關，連接多個大型語言模型（LLM）供應商，消除管理多個不同API協定的需要。它允許使用者透過單一介面與各種模型互動，同時支援標準客戶端協定，如OpenAI Chat Completions、OpenAI Responses，以及Anthropic Messages。

運作方式

此專案作為代理伺服器，將請求路由至不同的AI供應商。它具備路由系統，可使用隨機、偏好、輪詢或基於雜湊的方法在多個供應商之間分配請求。內建基於React的Web聊天介面與視覺化設定控制台，用於管理供應商、模型與憑證。系統使用SQLite儲存設定，可作為獨立伺服器或Wails-based桌面應用程式部署。

適用對象

專為希望以集中方式管理多個AI模型供應商，並透過單一API網關存取它們的使用者與開發者設計，也適合偏好使用視覺化介面管理AI服務的使用者。

主要特色

• 多協定支援：相容OpenAI與Anthropic API格式。
• 彈性路由：支援在多個供應商與憑證之間進行隨機、偏好、輪詢與雜湊路由。
• 整合UI：內建Web聊天介面與視覺化設定儀表板。
• 韌性功能：在供應商與模型層級實作電路斷路與半開恢復機制。
• 部署選項：可作為單一檔案伺服器、Docker映像或桌面應用程式使用。