HelgeSverre/ollama-gui

해결하는 문제

Ollama로 관리되는 로컬 대규모 언어 모델(LLM)과 상호작용하기 위한 현대적이고 사용자 친화적인 웹 인터페이스를 제공하여, 채팅을 위해 명령줄 인터페이스를 사용할 필요 없게 합니다.

작동 방식

이 프로젝트는 Ollama 서버에 연결하는 Vue.js 프론트엔드입니다. Node.js를 통해 로컬에 배포하거나, 호스팅된 웹 앱으로, 또는 Docker Compose를 통해 실행할 수 있습니다. Docker Compose는 GUI와 Ollama 백엔드를 함께 패키징하여 네트워크 및 CORS 구성의 복잡성을 줄입니다.

대상 사용자

복잡한 설정이나 터미널 사용 없이 로컬 AI 모델용 깔끔하고 프라이버시 중심의 시각적 인터페이스를 원하는 사용자입니다.

주요 기능

• 로컬 채팅 기록: IndexedDB를 사용하여 대화를 저장하고 지속성 보장.
• Markdown 지원: 메시지를 완전한 Markdown 형식으로 렌더링.
• 프라이버시 중심: 모든 처리는 사용자의 기기에서 로컬로 수행됩니다.
• 유연한 배포: Docker를 통해 한 번의 클릭으로 설치 가능하며, GPU 가속 옵션도 지원.