open-webui：功能丰富的自托管 AI 平台，用于管理本地和云端 LLM，并集成 RAG

它解决了什么问题

Open WebUI 提供了一个自托管、用户友好的界面，用于与大语言模型（LLM）交互。它通过提供一个集中平台，消除了复杂的设置需求，平台可以完全离线运行，支持本地模型运行器（如 Ollama）和基于云的兼容 OpenAI 的 API。

工作原理

它充当功能丰富的前端和编排层，连接到各种 LLM 提供商（如 vLLM、GroqCloud 和 Mistral）。它内置检索增强生成（RAG）推理引擎，允许用户将本地文档或网页搜索结果注入对话。平台通过插件（Filters、Actions、Pipes、Tools）实现可扩展性，并支持多种向量数据库用于持久记忆和文档存储。

适用人群

它面向希望拥有私密、安全且可定制 AI 界面的个人和团队，可自行部署在自有基础设施上，适用于从使用本地 GPU 的爱好者到需要 RBAC、SSO 和 LDAP 集成的企业。

亮点

• 广泛集成：支持 Ollama 和任何兼容 OpenAI 的 API。
• 本地 RAG：内置对 9 种向量数据库和多种内容提取引擎的支持，实现基于文档的 AI。
• 代理能力：能够使用自定义指令和工具包装基础模型，创建专用代理。
• 企业就绪：包含细粒度的基于角色的访问控制（RBAC）、SSO，以及通过 Redis 实现的水平可扩展性。
• 多模态支持：集成图像生成（DALL‑E、ComfyUI、AUTOMATIC1111）和使用多种 STT/TTS 提供商的语音/视频通话。
• 可扩展性：通过 MCP 的插件系统实现自定义工具、技能和外部服务连接。

---

摘要： 一个自托管、可扩展的 AI 平台，提供用户友好的界面，用于本地和云端 LLM，内置 RAG 与代理功能。

标题： open-webui：功能丰富的自托管 AI 平台，用于管理本地和云端 LLM，并集成 RAG