huggingface/chat-ui
The open source codebase powering HuggingChat
해결하는 문제
Chat UI는 대형 언어 모델(LLM)을 위한 즉시 사용 가능한 전문 채팅 인터페이스를 제공합니다. 개발자가 AI 모델을 위해 맞춤형 프런트엔드를 구축할 필요가 없으며, HuggingChat과 유사한 세련된 사용자 경험을 제공합니다.
작동 방식
SvelteKit 애플리케이션으로 구축된 Chat UI는 OpenAI 호환 API를 사용하는 모든 LLM 제공자에 연결할 수 있습니다. 프런트엔드 상호작용, 사용자 세션 및 채팅 기록을 처리하며, MongoDB를 사용해 채팅 기록, 사용자 설정 및 파일을 저장합니다. 빠른 로컬 설정을 위한 임베디드 MongoDB 옵션도 제공합니다.
대상 사용자
자체 프라이빗 LLM 채팅 인터페이스를 처음부터 구축하지 않고 배포하고자 하는 개발자 및 조직을 위한 것입니다. Ollama, llama.cpp, OpenRouter, Hugging Face Inference Providers와 같은 서비스에서 호스팅되는 모델을 사용하는 경우에 적합합니다.
주요 특징
- OpenAI 호환 API 지원: OpenAI 프로토콜을 따르는 모든 서비스와 호환됩니다.
- 멀티모달 및 도구 사용: 이미지 입력과 Model Context Protocol(MCP)을 통한 도구 호출을 지원합니다.
- 스마트 라우팅: 텍스트 전용, 멀티모달, 도구 필요 여부에 따라 최적 모델을 자동 선택하는 "Omni" 라우터를 포함합니다.
- 커스터마이징 가능: 환경 변수를 통해 앱 이름, 설명, 브랜딩을 변경하고 테마를 조정할 수 있습니다.
- 데이터베이스 통합: 사용자와 대화의 영구 저장을 위한 완전한 MongoDB 지원.