Capsize-Games/airunner
Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows
What it solves
AI Runner는 AI 컴패니언과 상호작용하고 AI 아트를 생성하기 위한 프라이빗하고 오프라인인 환경을 제공합니다. 모든 것을 사용자의 하드웨어에서 로컬로 실행하여 인터넷 연결, API 키 또는 구독이 필요하지 않으며, 대화, 기억, 창작물을 프라이빗하게 유지합니다.
How it works
이 프로젝트는 커스터마이징 가능한 AI 컴패니언과 레이어형 아트 캔버스를 결합합니다. 컴패니언은 로컬 LLM, Text-to-Speech (TTS), Speech-to-Text (STT)를 사용하여 RAG 기반의 장기 기억을 가진 음성 대화를 수행합니다. 아트 캔버스는 SDXL 및 Z-Image Turbo와 같은 이미지 생성 모델을 통합하여, 사용자가 image-to-image 및 inpainting을 사용하여 스케치, 페인팅, 반복 작업을 수행할 수 있게 합니다. 또한 Ollama 및 OpenAI 엔드포인트와 호환되는 headless HTTP API 서버로 실행될 수 있어 원격 액세스 또는 다른 도구와의 통합이 가능합니다.
Who it’s for
클라우드 서비스에 의존하지 않고, 동반자 관계 및 창의적인 아트 생성을 위한 고도로 프라이빗한 로컬 AI 경험을 원하는 사용자.
Highlights
- Privacy-First Design: 외부 API나 텔레메트리 없이 완전히 로컬로 실행됩니다.
- Multimodal Capabilities: 통합된 음성 대화 (TTS/STT) 및 이미지 생성.
- RAG-Powered Memory: 컴패니언은 세션 전반에 걸쳐 사용자의 장기 기억을을 구축합니다.
- Layered Art Canvas: 스케치, 합성, image-to-image 반복 작업을 지원하는 드로잉 서피스.
- Flexible Deployment: GUI 애플리케이션 또는 Ollama/OpenAI 호환 headless API 서버로 사용 가능합니다.
- Model Management: 내장된 HuggingFace 및 CivitAI 모델 다운로더.