Capsize-Games/airunner
Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows
What it solves
AI Runner는 AI 동반자와 상호작용하고 AI 아트를 생성하기 위한 프라이빗하고 로컬 우선(local-first)인 환경을 제공합니다. 모든 것을 사용자의 자체 하드웨어에서 실행함으로써 인터넷 연결, API 키 또는 구독의 필요성을 제거하여 데이터 프라이버시와 오프라인 가용성을 보장합니다.
How it works
The 시스템은 다양한 AI 런타임을 오케스트레이션하는 헤드리스 데몬(FastAPI server)을 통해 작동합니다. LLM 및 STT 기능을 위해 llama.cpp와 whisper.cpp를 네이티브 사이드카로 사용하며, 이미지 생성(SDXL, Z-Image Turbo) 및 TTS를 위해 Python 기반 런타임을 사용합니다. 데스크톱 GUI 클라이언트는 이 데몬에 연결되어 채팅 및 아트 생성을 위한 사용자 인터페이스를 제공합니다.
Who it’s for
장기 기억력과 AI 보조 드로잉 및 이미지 생성을 위한 레이어드 아트 캔버스를 갖춘, 고도로 커스터마이징 가능한 프라이빗 AI 동반자를 로컬에서 실행하고자 하는 사용자들을 위한 것입니다.
Highlights
- Customizable AI Companion: 대화를 통해 진화하는 특정 성격, 목소리, 분위기를 가진 이름 있는 동반자를 만드세요.
- Layered Art Canvas: 스케치, 페인팅, 그리고 인페인팅(inpainting) 및 필터를 포함한 image-to-image 생성을 지원하는 멀티 레이어 드로잉 표면입니다.
- Local-First Privacy: 기본적으로 텔레메트리(telemetry)가 없으며 데이터가 기계 외부로 나가지 않습니다.
- Multimodal Capabilities: 음성 대화를 위한 통합된 Text-to-Speech (TTS) 및 Speech-to-Text (STT) 기능을 제공합니다.
- RAG-Powered Memory: 동반자는 Retrieval-Augmented Generation을 사용하여 세션 전반에 걸쳐 사용자에 대한 장기 기억을 구축합니다.
- Environmental Awareness: 동반자는 현재 시간, 날짜, 그리고 지역 날씨를 인지합니다.
- Model Management: HuggingFace 및 CivitAI 모델을 위한 내장 다운로더가 포함되어 있습니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트