sdcb/chats
A powerful and flexible frontend & AI gateway for large language models, supporting 21+ mainstream AI model providers.
解決的問題
Sdcb Chats 提供一個統一且彈性的前端,用於與超過 22 個不同的 AI 模型提供者互動。它消除了管理多個獨立介面的需求,將各種 LLM API 統一整合至單一入口點,並提供企業級管理功能。
工作原理
此專案使用 C# 與 TypeScript 建構,同時擔任使用者介面與 API 網關。支援標準協定(Chat Completions、Messages、Responses、Gemini),可透過 Docker 或原生可執行檔快速部署。內建 Docker 沙箱用於程式碼解釋器(支援瀏覽器、程式碼執行與 Excel 工具),並提供彈性儲存選項,包括 SQLite、SQL Server、PostgreSQL 以及多種雲端儲存提供者(AWS S3、阿里雲 OSS、Azure Blob)。
適用對象
專為希望擁有集中式中心來管理多個 AI 模型的個人與企業設計,也適用於需要安全、多使用者環境並具備權限控制、餘額管理及 SSO 整合的使用者。
主要亮點
- 廣泛相容性:支援 22+ 主流 AI 模型提供者。
- 整合工具:內建程式碼解釋器,使用 Docker 沙箱執行程式碼並處理檔案。
- 企業級安全:包含使用者權限管理、帳戶餘額控制、速率限制、稽核日誌與 Keycloak SSO。
- 可觀測性:提供全鏈路請求追蹤,用於除錯入站與出站請求。
- 多模態支援:能夠處理視覺輸入與影像生成。
相關
- 專案
- 專案
- 專案
- 專案
- 專案