huggingface/chat-ui

它解决了什么问题

Chat UI 提供即用的专业大型语言模型（LLM）聊天界面。它消除了开发者为 AI 模型自行构建前端的需求，提供类似 HuggingChat 的精致用户体验。

它如何工作

作为 SvelteKit 应用构建，Chat UI 能连接任何使用 OpenAI 兼容 API 的 LLM 提供商。它处理前端交互、用户会话和聊天历史，并使用 MongoDB 存储聊天记录、用户设置和文件，还提供嵌入式 MongoDB 以便快速本地部署。

适用人群

开发者和组织希望部署自己的私有 LLM 聊天界面，而无需从头构建，并且使用的模型由 Ollama、llama.cpp、OpenRouter 或 Hugging Face 推理服务等平台托管。

亮点

• OpenAI 兼容 API 支持：可与任何遵循 OpenAI 协议的服务配合使用。
• 多模态与工具使用：支持图像输入并通过 Model Context Protocol（MCP）调用工具。
• 智能路由：内置“Omni”路由器，可自动根据请求是纯文本、多模态或需要工具的情况选择最佳模型。
• 可定制：通过环境变量自定义主题、应用名称、描述和品牌。
• 数据库集成：完整的 MongoDB 支持，用于持久化存储用户和对话。