undreamai/LLMUnity

Create characters in Unity with LLMs!

What it solves

LLMUnity는 게임 개발자가 대형 언어 모델(LLM)을 Unity 엔진에 직접 통합할 수 있게 해줍니다. 지속적인 인터넷 연결이나 비용이 많이 드는 클라우드 API 호출 없이도 실시간으로 플레이어와 대화할 수 있는 지능적이고 인터랙티브한 AI 캐릭터를 만드는 어려움을 해결합니다.

How it works

이 프로젝트는 LlamaLib( llama.cpp 기반)라는 백엔드를 사용해 사용자의 머신에서 로컬로 LLM을 실행합니다. LLM(모델 관리)과 LLMAgent(캐릭터 행동)와 같은 Unity 전용 컴포넌트를 제공합니다. 개발자는 .gguf 모델을 로드하고, 시스템 프롬프트로 캐릭터 역할을 정의하며, C# 스크립트로 채팅을 트리거할 수 있습니다. 또한 LLM을 별도 머신에서 실행하고 Unity 클라이언트가 IP를 통해 연결하는 원격 서버 구성도 지원합니다.

Who it’s for

PC, 모바일, VR 플랫폼에서 AI 기반 NPC, 챗봇 또는 동적 스토리텔링을 프로젝트에 추가하고자 하는 Unity 게임 개발자 및 인터랙티브 경험 제작자를 위한 솔루션입니다.

Highlights

  • Local Execution: CPU와 GPU(Nvidia, AMD, Apple Metal)에서 로컬 실행되어 데이터 프라이버시와 오프라인 사용을 보장합니다.
  • Cross-Platform: PC, 모바일(iOS/Android), VR을 지원합니다.
  • RAG System: 캐릭터 지식을 강화하기 위한 의미 검색을 제공하는 Retrieval‑Augmented Generation 시스템을 포함합니다.
  • Flexible Control: 문법 제한(GBNF)을 통해 JSON과 같은 구조화된 출력 및 함수 호출을 지원합니다.
  • Model Support: GGUF 형식의 주요 LLM 모델 모두와 호환됩니다.