richawo/minimal-llm-ui
Minimalistic UI for Ollama LMs - This powerful react interface for LLMs drastically improves the chatbot experience and works offline.
解决的问题
提供一个简单、极简的用户界面,用于与通过 Ollama 运行的本地语言模型进行交互,无需使用命令行界面进行聊天和管理对话。
工作原理
使用 React、Next.js 和 Tailwind CSS 构建,应用通过 LangchainJs 连接到 Ollama API 端点(本地或远程)。它在内存中管理对话上下文,以实现会话期间无缝切换不同模型,并将聊天记录保存到本地数据库。
适用人群
通过 Ollama 运行本地 LLM 并希望使用简洁的基于 Web 的界面进行聊天、保存历史记录和管理提示模板的用户。
主要亮点
- 模型切换:在对话过程中切换不同 LLM 以比较结果。
- 对话历史:通过本地数据库保存并重新访问之前的聊天记录。
- 提示模板:创建参数驱动的模板,用于频繁使用的提示。
- 自定义 API 配置:如果 Ollama 部署在其他设备上,支持自定义基础 URL。
相关
- 项目
- 项目
- 项目
- 项目