ParisNeo/lollms-webui

解决的问题

LoLLMs WebUI 提供一个单一、统一的界面，用于访问大量大语言模型（LLMs）和多模态AI系统。它消除了在不同平台之间切换的需要，将文本、图像、视频和音乐生成整合到一个本地中心，同时提供一个庞大的预配置AI人格库和针对特定专业或创意领域的微调模型。

如何工作

该系统作为前端，通过“绑定”连接到各种AI后端。它支持本地模型（通过Hugging Face、GGUF/GGML和EXLLama v2）以及云服务（如OpenAI、Anthropic和Ollama）。它还具备“智能路由”系统，可根据任务层级自动将提示发送到不同模型，以在成本（对简单任务使用更便宜的模型）或速度（对快速响应使用更小的模型）之间实现优化。

适用人群

专为希望拥有本地一体化AI工作站的个人用户设计，适用于从编程、专业写作到创意艺术（图像、视频和音乐生成）以及法律、医学等领域的专业辅助任务。

主要亮点

• 多模态集成：支持文本生成、图像生成（Stable Diffusion、Flux、DALL-E）、视频生成（Luma Labs、RunwayML）和音乐生成（MusicGen）。
• 丰富的模型库：可访问超过500个AI专家条件和2,500个微调模型。
• 灵活的绑定：兼容多种本地和基于API的提供方，包括vLLM、OpenRouter和Groq。
• 智能路由：根据任务复杂度动态切换模型，平衡速度与成本。
• 本地存储：将对话历史保存在本地数据库中，保障隐私与组织性。