richawo/minimal-llm-ui

Minimalistic UI for Ollama LMs - This powerful react interface for LLMs drastically improves the chatbot experience and works offline.

解决的问题

提供一个简单、极简的用户界面,用于与通过 Ollama 运行的本地语言模型进行交互,无需使用命令行界面进行聊天和管理对话。

工作原理

使用 React、Next.js 和 Tailwind CSS 构建,应用通过 LangchainJs 连接到 Ollama API 端点(本地或远程)。它在内存中管理对话上下文,以实现会话期间无缝切换不同模型,并将聊天记录保存到本地数据库。

适用人群

通过 Ollama 运行本地 LLM 并希望使用简洁的基于 Web 的界面进行聊天、保存历史记录和管理提示模板的用户。

主要亮点

  • 模型切换:在对话过程中切换不同 LLM 以比较结果。
  • 对话历史:通过本地数据库保存并重新访问之前的聊天记录。
  • 提示模板:创建参数驱动的模板,用于频繁使用的提示。
  • 自定义 API 配置:如果 Ollama 部署在其他设备上,支持自定义基础 URL。

相关

  • 项目
  • 项目
  • 项目
  • 项目