richawo/minimal-llm-ui

Minimalistic UI for Ollama LMs - This powerful react interface for LLMs drastically improves the chatbot experience and works offline.

解決的問題

提供一個簡單、極簡的使用者介面,用於與透過 Ollama 執行的本地語言模型互動,免除使用命令列介面進行聊天與管理對話的需要。

運作方式

使用 React、Next.js 與 Tailwind CSS 建構,應用程式透過 LangchainJs 連接到 Ollama API 端點(本地或遠端)。它在記憶體中管理對話內容,以實現會話期間無縫切換不同模型,並將聊天紀錄儲存至本地資料庫。

適用對象

透過 Ollama 執行本地 LLM,並希望使用乾淨的 Web 界面進行聊天、儲存歷史記錄、管理提示範本的使用者。

主要特色

  • 模型切換:在對話過程中切換不同 LLM 以比較結果。
  • 對話歷史:透過本地資料庫儲存並重新訪問先前的聊天記錄。
  • 提示範本:建立參數驅動的範本,用於經常使用的提示。
  • 自訂 API 設定:若 Ollama 部署於其他裝置,支援自訂基礎 URL。

相關

  • 專案
  • 專案
  • 專案
  • 專案