open-webui/open-webui

它解决的问题

Open WebUI 解决了在一个地方管理和连接来自不同提供商的多个 AI 模型的挑战。没有它，用户通常需要为本地模型（如 Ollama）和云 API 使用单独的工具，并且缺乏统一、功能丰富的聊天体验。该项目还通过允许完全自托管和离线操作来满足隐私和控制需求。

工作原理

Open WebUI 是一个自托管的 Web 应用程序，您可以将其安装在您自己的服务器或计算机上。它通过两条主要路径连接到模型后端：通过 Ollama 的本地模型，以及任何兼容 OpenAI 的 API（如 LMStudio、GroqCloud、OpenRouter、vLLM 等）。该平台提供类似聊天的界面，您可以同时与一个或多个模型交互。它包括一个插件系统（Filters、Actions、Pipes、Tools、Skills）用于自定义集成，一个内置的 RAG 系统，支持 9 个向量数据库和网络搜索，跨对话的持久记忆，以及通过终端环境进行的代理执行。它还提供基于角色的访问控制、使用分析和通过 pip、Docker 或 Kubernetes 的部署选项。

适用人群

这适用于希望拥有强大、自托管的 AI 助手界面的个人和组织。它适合想要混合使用本地和云模型的超级用户，需要细粒度访问控制和企业认证（LDAP、SSO）的团队，以及希望使用插件扩展平台的开发人员。它也适合那些优先考虑数据隐私并希望完全离线运行 AI 的人。

亮点

• 通过 pip、Docker、kubectl 或 Helm 轻松安装，并提供 Ollama 和 CUDA 的镜像。
• 广泛的模型支持：连接任何兼容 OpenAI 的 API 以及本地 Ollama 模型。
• 细粒度的基于角色的访问控制（RBAC）和用户组。
• 可扩展的插件系统，包括 Filters、Actions、Pipes、Tools 和 Skills，以及 MCP/OpenAPI 支持。
• 使用自定义指令、工具和知识构建专门的代理。
• 通过内置终端（Open Terminal）进行代理执行，用于多步骤任务。
• 持久记忆，跨对话携带用户事实。
• 本地 RAG，支持 9 个向量数据库、混合搜索、重排序和网络搜索注入。
• 使用 # 命令进行网页浏览以获取 URL。
• 通过多种引擎（DALL·E、Gemini、ComfyUI、AUTOMATIC1111）进行图像生成和编辑。
• 并行多模型对话。
• 使用竞技场、A/B 测试和 ELO 排行榜进行使用分析和模型评估。
• 灵活的数据库选择（SQLite 或 PostgreSQL）和文件存储（本地、S3、GCS、Azure Blob）。
• 企业功能：LDAP、SSO、SCIM 2.0 预配、OpenTelemetry 可观测性、水平扩展。
• 响应式设计和 PWA，支持多种 STT/TTS 提供商的语音/视频通话。
• 完整的 Markdown 和 LaTeX 支持。