open-webui/open-webui

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

What it solves

Open WebUI 提供一个自托管、用户友好的界面，用于与大型语言模型（LLM）交互。它通过提供一个集中平台，消除复杂的部署需求，能够完全离线运行，支持本地模型运行器（如 Ollama）以及云端 OpenAI 兼容 API。

How it works

它充当功能丰富的前端和编排层，连接各种 LLM 提供商（如 vLLM、GroqCloud、Mistral）。内置检索增强生成（RAG）推理引擎，允许用户将本地文档或网页搜索结果注入对话。平台通过插件（Filters、Actions、Pipes、Tools）实现可扩展，并支持多种向量数据库用于持久记忆和文档存储。

Who it’s for

该平台面向希望拥有私密、安全、可定制 AI 界面的个人和团队，可自行部署在自有基础设施上，适用于从使用本地 GPU 的爱好者到需要 RBAC、SSO 与 LDAP 集成的企业。

Highlights

  • Broad Integration: Supports Ollama and any OpenAI-compatible API.
  • Local RAG: Built-in support for 9 vector databases and multiple content-extraction engines for document-based AI.
  • Agentic Capabilities: Ability to wrap base models with custom instructions and tools to create specialized agents.
  • Enterprise Ready: Includes granular Role-Based Access Control (RBAC), SSO, and horizontal scalability via Redis.
  • Multimodal Support: Integrated image generation (DALL‑E, ComfyUI, AUTOMATIC1111) and voice/video calling with various STT/TTS providers.
  • Extensibility: Plugin system for custom tools, skills, and external service connections via MCP.