해결하는 문제

Open WebUI는 다양한 공급자의 여러 AI 모델을 한 곳에서 관리하고 연결하는 문제를 해결합니다. 이것이 없으면 사용자는 로컬 모델(예: Ollama)과 클라우드 API에 별도의 도구가 필요한 경우가 많으며 통합되고 기능이 풍부한 채팅 경험이 부족합니다. 이 프로젝트는 완전한 자체 호스팅과 오프라인 운영을 허용하여 개인 정보 보호 및 제어 요구 사항도 해결합니다.

작동 방식

Open WebUI는 자신의 서버나 컴퓨터에 설치하는 자체 호스팅 웹 애플리케이션입니다. 두 가지 주요 경로를 통해 모델 백엔드에 연결합니다: Ollama를 통한 로컬 모델과 OpenAI 호환 API(예: LMStudio, GroqCloud, OpenRouter, vLLM 등). 플랫폼은 하나 이상의 모델과 동시에 상호 작용할 수 있는 채팅 인터페이스를 제공합니다. 사용자 지정 통합을 위한 플러그인 시스템(Filters, Actions, Pipes, Tools, Skills), 9개의 벡터 데이터베이스와 웹 검색을 지원하는 내장 RAG 시스템, 대화 전반에 걸친 영구 메모리, 터미널 환경을 통한 에이전트 실행이 포함됩니다. 또한 역할 기반 액세스 제어, 사용량 분석, pip, Docker 또는 Kubernetes를 통한 배포 옵션을 제공합니다.

대상 사용자

강력한 자체 호스팅 AI 어시스턴트 인터페이스를 원하는 개인과 조직을 위한 것입니다. 로컬 및 클라우드 모델을 혼합하려는 고급 사용자, 세분화된 액세스 제어와 엔터프라이즈 인증(LDAP, SSO)이 필요한 팀, 플러그인으로 플랫폼을 확장하려는 개발자에게 적합합니다. 또한 데이터 개인 정보 보호를 우선시하고 AI를 완전히 오프라인으로 실행하려는 사람들에게도 적합합니다.

주요 기능

• pip, Docker, kubectl 또는 Helm을 통한 쉬운 설치, Ollama 및 CUDA용 이미지 제공.
• 광범위한 모델 지원: 로컬 Ollama 모델과 함께 OpenAI 호환 API에 연결.
• 세분화된 역할 기반 액세스 제어(RBAC) 및 사용자 그룹.
• Filters, Actions, Pipes, Tools, Skills 및 MCP/OpenAPI 지원을 포함한 확장 가능한 플러그인 시스템.
• 사용자 지정 지침, 도구 및 지식으로 전문 에이전트 구축.
• 다단계 작업을 위한 내장 터미널(Open Terminal)을 통한 에이전트 실행.
• 대화 전반에 걸쳐 사용자 정보를 유지하는 영구 메모리.
• 9개의 벡터 데이터베이스, 하이브리드 검색, 재순위화 및 웹 검색 주입을 지원하는 로컬 RAG.

• 명령으로 URL을 가져오는 웹 브라우징.

• 여러 엔진(DALL·E, Gemini, ComfyUI, AUTOMATIC1111)을 통한 이미지 생성 및 편집.
• 병렬 다중 모델 대화.
• 아레나, A/B 테스트 및 ELO 리더보드를 통한 사용량 분석 및 모델 평가.
• 유연한 데이터베이스 선택(SQLite 또는 PostgreSQL) 및 파일 저장(로컬, S3, GCS, Azure Blob).
• 엔터프라이즈 기능: LDAP, SSO, SCIM 2.0 프로비저닝, OpenTelemetry 관찰 가능성, 수평 확장.
• 반응형 디자인 및 PWA, 여러 STT/TTS 공급자와의 음성/화상 통화.
• 완전한 Markdown 및 LaTeX 지원.