huggingface/chat-ui

它解決了什麼問題

Chat UI 提供即時可用、專業的大型語言模型（LLM）聊天介面。它免除開發者為 AI 模型自行打造前端的需求，提供類似 HuggingChat 的精緻使用者體驗。

它如何運作

作為 SvelteKit 應用程式建置，Chat UI 能連接任何使用 OpenAI 相容 API 的 LLM 供應商。它負責前端互動、使用者會話與聊天記錄，並使用 MongoDB 儲存聊天歷史、使用者設定與檔案，亦提供嵌入式 MongoDB 以便快速本機設定。

目標對象

開發者與組織想要部署自有的私有 LLM 聊天介面，卻不想從頭開始開發，且使用的模型由 Ollama、llama.cpp、OpenRouter 或 Hugging Face 推理服務等平台提供。

重點特色

• OpenAI 相容 API 支援：可與任何遵循 OpenAI 協議的服務配合使用。
• 多模態與工具使用：支援圖像輸入與透過 Model Context Protocol（MCP）呼叫工具。
• 智慧路由：內建「Omni」路由器，可自動依請求是純文字、多模態或需要工具的情況選擇最佳模型。
• 可自訂：可透過環境變數自訂主題、應用名稱、說明與品牌。
• 資料庫整合：完整的 MongoDB 支援，用於持久化使用者與對話資料。