richawo/minimal-llm-ui

何を解決するか

Ollamaで実行中のローカル言語モデルと対話するためのシンプルでミニマルなユーザーインターフェースを提供し、チャットや会話の管理にコマンドラインインターフェースを使用する必要をなくします。

動作方法

React、Next.js、Tailwind CSSで構築され、LangchainJsを使用してOllama APIエンドポイント（ローカルまたはリモート）に接続します。会話コンテキストをメモリ内で管理することで、セッション中に異なるモデル間をスムーズに切り替えることができ、チャット履歴はローカルデータベースに保存されます。

対象ユーザー

OllamaでローカルLLMを実行し、チャット、履歴の保存、プロンプトテンプレートの管理をWebベースのインターフェースで行いたいユーザー向けです。

特徴

• モデル切り替え: 会話中に異なるLLMを切り替えて結果を比較できます。
• 会話履歴: ローカルデータベースに保存された過去のチャットを再訪できます。
• プロンプトテンプレート: 頻繁に使用するプロンプト用のパラメータ駆動型テンプレートを作成できます。
• カスタムAPI設定: Ollamaが別のデバイスにホストされている場合でも、カスタムベースURLをサポートしています。