Capsize-Games/airunner
Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows
What it solves
AI Runner 提供了一个私密的、本地优先的环境,用于与 AI 伴侣进行交互并生成 AI 艺术。它通过在用户自己的硬件上运行一切,消除了对互联网连接、API 密钥或订阅的需求,从而确保了数据隐私和离线可用性。
How it works
该系统通过一个无头守护进程(FastAPI server)运行,该进程负责编排各种 AI 运行时。它使用 llama.cpp 和 whisper.cpp 作为 LLM 和 STT 能力的原生 sidecars,并使用基于 Python 的运行时进行图像生成(SDXL, Z-Image Turbo)和 TTS。一个桌面 GUI 客户端连接到此守护进程,为聊天和艺术创作提供用户界面。
Who it’s for
想要拥有高度可定制、私密、具有长期记忆和分层艺术画布(用于 AI 辅助绘图和图像生成)的 AI 伴侣的用户,且所有功能均在本地运行。
Highlights
- Customizable AI Companion: 创建一个具有特定个性、声音和情绪的、可以通过对话不断进化的命名伴侣。
- Layered Art Canvas: 一个多层绘图表面,支持素描、绘画以及带有局部重绘(inpainting)和滤镜的图像到图像生成。
- Local-First Privacy: 默认情况下没有遥测,也没有数据离开机器。
- Multimodal Capabilities: 集成了用于语音对话的文本转语音 (TTS) 和语音转文本 (STT)。
- RAG-Powered Memory: 伴侣通过检索增强生成 (Retrieval-Augmented Generation) 在不同会话中构建用户的长期记忆。
- Environmental Awareness: 伴侣能够感知当前的时间、日期和当地天气。
- Model Management: 内置了用于 HuggingFace 和 CivitAI 模型的下载器。
相关
- 项目
- 项目
- 项目
- 项目
- 项目