open-webui/open-webui

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

What it solves

Open WebUI は、Large Language Models(LLM)と対話するためのセルフホスト型でユーザーフレンドリーなインターフェースを提供します。複雑なセットアップが不要で、完全にオフラインで動作できる集中プラットフォームを提供し、Ollama のようなローカルモデルランナーやクラウドの OpenAI 互換 API をサポートします。

How it works

機能豊富なフロントエンド兼オーケストレーション層として動作し、vLLM、GroqCloud、Mistral など様々な LLM プロバイダーに接続します。Retrieval Augmented Generation(RAG)用の組み込み推論エンジンを備えており、ローカルドキュメントやウェブ検索結果を会話に注入できます。プラグイン(Filters、Actions、Pipes、Tools)により拡張可能で、永続メモリやドキュメント保存のために多数のベクトルデータベースをサポートします。

Who it’s for

プライベートで安全、かつカスタマイズ可能な AI インターフェースを自社インフラ上にホストしたい個人やチーム向けです。ローカル GPU を使うホビイストから、RBAC、SSO、LDAP 連携が必要なエンタープライズまで幅広く対応します。

Highlights

  • Broad Integration: Supports Ollama and any OpenAI-compatible API.
  • Local RAG: Built-in support for 9 vector databases and multiple content-extraction engines for document-based AI.
  • Agentic Capabilities: Ability to wrap base models with custom instructions and tools to create specialized agents.
  • Enterprise Ready: Includes granular Role-Based Access Control (RBAC), SSO, and horizontal scalability via Redis.
  • Multimodal Support: Integrated image generation (DALL‑E, ComfyUI, AUTOMATIC1111) and voice/video calling with various STT/TTS providers.
  • Extensibility: Plugin system for custom tools, skills, and external service connections via MCP.