localgpt-app/localgpt

LocalGPT – AI 우선 3D 월드 빌더 및 로컬 전용 어시스턴트

개요 – Rust 기반의 단일 바이너리 애플리케이션으로 다음 기능을 제공합니다:

탐색 가능한 3D 장면 생성: Bevy 게임 엔진을 사용하여 자연어 프롬프트로부터 생성합니다(localgpt-gen).
로컬 AI 어시스턴트 실행: 지속적이고 검색 가능한 메모리, 자율적인 백그라운드 작업, 초경량 HTTP API를 갖추고 있습니다(localgpt).

두 구성 요소 모두 사용자의 기기에서 완전히 실행되며(Docker, Node, Python 불필요), 지정한 모든 LLM(Ollama, LM Studio, OpenAI, Anthropic 등)과 연동할 수 있습니다.

# 월드 빌더 바이너리 설치
cargo install localgpt-gen
# 어시스턴트 바이너리 설치
cargo install localgpt

프롬프트 기반 장면 실행:

localgpt-gen "Create a desert scene with pyramids and a UFO hovering above"

채팅 어시스턴트 시작:

localgpt chat          # 대화형 REPL
localgpt ask "What is the meaning of life?"
localgpt daemon start  # HTTP API + Web UI 실행

구성 요소	주요 특징
Gen 모드	파라메트릭 프리미티브, PBR 재질, 조명, 동작(궤도, 회전, 경로 추적), 환경음, glTF/GLB 또는 HTML 내보내기, 헤드리스 배치 모드, IDE 통합용 MCP 서버
AI 어시스턴트	Markdown 기반 지속적 지식 저장소, 전체 텍스트 + 의미론적 검색(SQLite FTS5 + `sqlite-vec`), 자율 하트비트 작업 큐, 다중 인터페이스(CLI, Web UI, 데스크톱 GUI, 모바일), 샌드박스 실행(Landlock/seccomp, Seatbelt), 프롬프트 주입 방어
LLM 지원	모든 로컬 또는 클라우드 제공업체와 호환 – LM Studio, Ollama, Anthropic, OpenAI, xAI, GLM, Vertex AI 및 범용 CLI 제공업체
보안	커널 강제 샌드박스, HMAC 서명 정책 파일, 감사 체인 로그
확장성	스킬 시스템 – 월드 전체를 재사용 가능한 "스킬"로 저장할 수 있으며, 메모리 시스템이 세션을 통해 사용자의 스타일(팔레트, 조명, 템플릿)을 학습합니다

Rust + Tokio – 데몬과 생성기 모두를 위한 비동기 런타임.
Bevy – 3D 장면을 구성하는 ECS 기반 게임 엔진.
SQLite – Markdown 메모 저장; FTS5는 키워드 검색, sqlite-vec은 임베딩 기반 의미론적 검색(fastembed로 생성)에 사용.
Axum – Web UI 및 JSON 엔드포인트를 제공하는 경량 HTTP 서버.
eframe – 선택적 네이티브 GUI 프론트엔드.

Apache-2.0 – 개인 및 상업적 용도로 무료 사용 가능.