Capsize-Games/airunner

Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows

What it solves

AI Runner는 AI 동반자와 상호작용하고 AI 아트를 생성하기 위한 프라이빗하고 로컬 우선(local-first)인 환경을 제공합니다. 모든 것을 사용자의 자체 하드웨어에서 실행함으로써 인터넷 연결, API 키 또는 구독의 필요성을 제거하여 데이터 프라이버시와 오프라인 가용성을 보장합니다.

How it works

The 시스템은 다양한 AI 런타임을 오케스트레이션하는 헤드리스 데몬(FastAPI server)을 통해 작동합니다. LLM 및 STT 기능을 위해 llama.cppwhisper.cpp를 네이티브 사이드카로 사용하며, 이미지 생성(SDXL, Z-Image Turbo) 및 TTS를 위해 Python 기반 런타임을 사용합니다. 데스크톱 GUI 클라이언트는 이 데몬에 연결되어 채팅 및 아트 생성을 위한 사용자 인터페이스를 제공합니다.

Who it’s for

장기 기억력과 AI 보조 드로잉 및 이미지 생성을 위한 레이어드 아트 캔버스를 갖춘, 고도로 커스터마이징 가능한 프라이빗 AI 동반자를 로컬에서 실행하고자 하는 사용자들을 위한 것입니다.

Highlights

  • Customizable AI Companion: 대화를 통해 진화하는 특정 성격, 목소리, 분위기를 가진 이름 있는 동반자를 만드세요.
  • Layered Art Canvas: 스케치, 페인팅, 그리고 인페인팅(inpainting) 및 필터를 포함한 image-to-image 생성을 지원하는 멀티 레이어 드로잉 표면입니다.
  • Local-First Privacy: 기본적으로 텔레메트리(telemetry)가 없으며 데이터가 기계 외부로 나가지 않습니다.
  • Multimodal Capabilities: 음성 대화를 위한 통합된 Text-to-Speech (TTS) 및 Speech-to-Text (STT) 기능을 제공합니다.
  • RAG-Powered Memory: 동반자는 Retrieval-Augmented Generation을 사용하여 세션 전반에 걸쳐 사용자에 대한 장기 기억을 구축합니다.
  • Environmental Awareness: 동반자는 현재 시간, 날짜, 그리고 지역 날씨를 인지합니다.
  • Model Management: HuggingFace 및 CivitAI 모델을 위한 내장 다운로더가 포함되어 있습니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트