sammcj/gollama

Go manage your Ollama models

Gollama – Ollama 모델 관리를 위한 터미널 UI

기능 – Gollama는 로컬 Ollama API와 통신하여 터미널 기반 UI에서 모델을 탐색, 시작, 중지, 편집, 복사, 삭제 및 푸시할 수 있는 작은 Go 프로그램입니다. 또한 빠른 일회성 작업(목록, 검색, 편집, 언로드, vRAM 추정 등)을 위한 몇 가지 명령줄 플래그를 제공합니다.

중요성 – Ollama는 LLM을 로컬에서 실행하는 인기 있는 방법입니다. 수십 개의 모델(다양한 크기, 양자화, 계열)을 관리하는 것은 번거로울 수 있습니다. Gollama는 검색 가능하고 정렬 가능한 목록을 제공하고 메타데이터(크기, 양자화, 계열, 마지막 수정 시간)를 표시하며 단일 키 입력으로 ollama run을 시작하거나 모델을 언로드할 수 있습니다. 내장된 vRAM 추정기는 모델을 가져오기 전에 GPU/CPU에 적합한지 결정하는 데 도움을 줍니다.

주요 기능

  • 모델 선택, 정렬, 필터링, Modelfile 편집, 복사/이름 변경, 삭제, 실행 및 언로드를 위한 단축키가 있는 TUI.
  • 스크립팅을 위한 명령줄 단축키(gollama -l, -s, -e, --vram …).
  • 컨텍스트 길이 및 양자화 트레이드오프를 포함한 Ollama 및 Hugging-Face 모델용 vRAM 사용량 계산기.
  • 기본 정렬, 표시 열, 편집기, 테마, API 엔드포인트 등을 위한 구성 가능한 JSON 파일(~/.config/gollama/config.json).
  • 경량 테마 지원(다크, 라이트 네온, 사용자 정의 JSON 테마).
  • 조정 가능한 로그 수준으로 ~/.config/gollama/gollama.log에 로깅.

설치 방법 – Go로 설치(go install github.com/sammcj/gollama/v2@latest), 제공된 curl 스크립트 사용, 또는 릴리스 페이지에서 사전 빌드된 바이너리를 다운로드합니다. 저장소에는 소스에서 빌드하기 위한 make build 레시피도 포함되어 있습니다.

대상 사용자 – macOS 또는 Linux에서 Ollama를 실행하고 기본 CLI보다 키보드 중심 인터페이스를 선호하는 모든 사람, 특히 많은 모델을 다루고 메모리 요구 사항을 빠르게 파악해야 하는 고급 사용자에게 적합합니다.


짧은 답변 – Gollama는 Ollama를 통해 로컬에서 제공되는 LLM을 관리하기 위한 진정한 오픈 소스 유틸리티입니다. 모델을 훈련하거나 제공하지는 않지만 AI 실무자를 위한 모델 관리, 검사 및 리소스 계획을 간소화합니다.

관련

  • 프로젝트
  • Dispatch
  • 프로젝트
  • 프로젝트
  • 프로젝트