open-webui/open-webui

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

What it solves

Open WebUI는 대형 언어 모델(LLM)과 상호 작용하기 위한 셀프 호스팅, 사용자 친화적인 인터페이스를 제공합니다. 복잡한 설정이 필요 없으며, 완전히 오프라인에서도 작동 가능한 중앙 집중형 플랫폼을 제공해 Ollama와 같은 로컬 모델 러너와 클라우드 기반 OpenAI 호환 API를 모두 지원합니다.

How it works

다양한 LLM 제공자(vLLM, GroqCloud, Mistral 등)에 연결되는 기능이 풍부한 프런트엔드 및 오케스트레이션 레이어 역할을 합니다. Retrieval Augmented Generation(RAG)을 위한 내장 추론 엔진을 포함하여 사용자가 로컬 문서나 웹 검색 결과를 대화에 삽입할 수 있습니다. 플러그인(Filters, Actions, Pipes, Tools)을 통해 확장 가능하며, 영구 메모리와 문서 저장을 위한 다양한 벡터 데이터베이스를 지원합니다.

Who it’s for

자신의 인프라에 프라이빗하고 안전하며 커스터마이징 가능한 AI 인터페이스를 호스팅하고자 하는 개인 및 팀을 위해 설계되었습니다. 로컬 GPU를 활용하는 취미 개발자부터 RBAC, SSO, LDAP 연동이 필요한 기업까지 폭넓게 활용할 수 있습니다.

Highlights

  • Broad Integration: Supports Ollama and any OpenAI-compatible API.
  • Local RAG: Built-in support for 9 vector databases and multiple content-extraction engines for document-based AI.
  • Agentic Capabilities: Ability to wrap base models with custom instructions and tools to create specialized agents.
  • Enterprise Ready: Includes granular Role-Based Access Control (RBAC), SSO, and horizontal scalability via Redis.
  • Multimodal Support: Integrated image generation (DALL‑E, ComfyUI, AUTOMATIC1111) and voice/video calling with various STT/TTS providers.
  • Extensibility: Plugin system for custom tools, skills, and external service connections via MCP.