richawo/minimal-llm-ui

해결하는 문제

Ollama를 통해 실행 중인 로컬 언어 모델과 상호작용할 수 있는 간단하고 미니멀한 사용자 인터페이스를 제공하여, 채팅 및 대화 관리에 명령줄 인터페이스를 사용할 필요 없이 사용할 수 있습니다.

작동 방식

React, Next.js, Tailwind CSS로 구축되었으며, LangchainJs를 사용하여 Ollama API 엔드포인트(로컬 또는 원격)에 연결합니다. 세션 중에 다양한 모델 간을 원활하게 전환할 수 있도록 메모리에서 대화 컨텍스트를 관리하고, 채팅 기록은 로컬 데이터베이스에 저장합니다.

대상 사용자

Ollama를 통해 로컬 LLM을 실행하고, 깔끔한 웹 기반 인터페이스를 통해 채팅, 기록 저장, 프롬프트 템플릿 관리를 원하는 사용자들입니다.

주요 기능

• 모델 전환: 대화 중에 다른 LLM로 전환하여 결과를 비교할 수 있습니다.
• 대화 기록: 로컬 데이터베이스에 저장된 이전 대화를 다시 방문할 수 있습니다.
• 프롬프트 템플릿: 자주 사용하는 프롬프트용 파라미터 기반 템플릿을 생성할 수 있습니다.
• 사용자 정의 API 구성: Ollama가 다른 장치에 호스팅되어 있는 경우에도 사용자 정의 기준 URL을 지원합니다.