open-webui: 一個功能豐富的自託管 AI 平台，用於管理具備整合 RAG 的本地與雲端 LLM

它解決了什麼問題

Open WebUI 提供了一個自託管且使用者友善的介面，用於與大型語言模型 (LLM) 進行互動。它透過提供一個可以完全離線運行的集中式平台，消除了複雜設定的需求，並支援 Ollama 等本地模型運行器以及雲端 OpenAI 相容的 API。

運作原理

它作為一個功能豐富的前端與編排層，可連接到各種 LLM 提供者 (例如 vLLM, GroqCloud, 以及 Mistral)。它包含一個內建的檢索增強生成 (RAG) 推論引擎，允許使用者將本地文件或網路搜尋結果注入對話中。該平台可透過插件 (Filters, Actions, Pipes, Tools) 進行擴展，並支援多種向量資料庫以實現持久記憶與文件儲存。

對象是誰

它專為想要在自己的基礎設施上託管私密、安全且可自定義 AI 介面的個人與團隊而設計，對象範圍從使用本地 GPU 的愛好者到需要 RBAC, SSO, 與 LDAP 整合的企業。

重點特色

• 廣泛的整合能力：支援 Ollama 與任何 OpenAI 相容的 API。
• 本地 RAG：內建支援 9 種向量資料庫與多種內容提取引擎，用於基於文件的 AI。
• 代理能力 (Agentic Capabilities)：能夠使用自定義指令與工具來封裝基礎模型，以建立專門的代理。
• 企業級就緒：包含細粒度的角色權限控制 (RBAC), SSO, 以及透過 Redis 實現的水平擴展能力。
• 多模態支援：整合了圖像生成 (DALL-E, ComfyUI, AUTOMATIC1111) 以及透過各種 STT/TTS 提供者進行的語音/視訊通話。
• 可擴展性：透過插件系統提供自定義工具、技能，以及透過 MCP 進行的外部服務連接。