Capsize-Games/airunner

Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows

AI Runner

产品概述

AI Runner 是一个自托管的桌面应用程序，结合了两种主要体验：

AI 伴侣 – 你可以给它命名、赋予声音，并让它随着时间的推移记住你。它可以说、听（语音转文本）、说（文本转语音），并知晓当前时间、日期和天气。
艺术画布 – 一个分层绘制表面，你可以素描、绘画，然后用本地扩散模型将这些草图转换为图像，进行编辑（修复、背景移除、样式滤镜）并合成图层。

所有处理（LLM 聊天、图像生成、TTS/STT）都在用户自己的硬件上运行——无需 API 密钥、无需云订阅，除非启用可选的云功能，否则没有数据离开机器。

主要功能（如 README 所述）

功能	说明
🤖 AI 伴侣	具有名字、声音、持久记忆和自然变化的情绪。
🎨 分层画布	在多个图层上进行“素描→生成→滤镜→合成”。
🖼️ 图像生成	支持 Z-Image Turbo、Stable Diffusion 1.5、图像到图像、修复、背景移除、后处理滤镜。
🗣️ 语音对话	全双工 TTS（文本转语音）和 STT（语音转文本），可选择声音。
🧠 记忆与 RAG	长期对话记忆；用于回忆过去对话的检索增强生成。
🌤️ 环境感知	知晓本地时间、日期和天气，并影响响应。
🔒 隐私优先	所有数据保留在本地；可选云功能仅限用户主动开启。
🛡️ 安全过滤器	内置 NSFW 过滤器和非法内容分类器。
📦 模型管理	从 HuggingFace 或 CivitAI 一键下载；支持多个本地 LLM 和图像模型。
🌍 多语言	英语（完整堆栈）、日语（TTS/LLM）、其他语言的有限 STT。

使用方式

模式	典型用例
桌面 GUI（通过 Itch.io 下载、Docker 或 `pip install airunner` 安装）	在同一屏幕上绘画和生成艺术的同时，与支持语音的伴侣进行交互式聊天。
无头服务器（`airunner-headless`）	运行暴露 LLM、图像、TTS 和 STT 端点的 REST API——适用于远程服务器、VS Code 扩展或自动化流水线。
Docker 容器	快速沙盒化部署；可以运行完整 GUI（`docker compose run …`）或无头 API（`--headless`）。
Python 库	在您自己的脚本中导入 `airunner` 包，以调用相同的推理后端。

安装选项（摘要）

方法	内容	备注
桌面下载	预构建二进制文件（无需 Python）。
Docker	容器镜像，带有可选配置文件（`core,llm-native,stt-native` 等）。
PyPI（`pip install airunner`）	包含 GUI 和 `airunner-services` 运行时的 Python 包。
APT（Ubuntu 22.04+）	仅安装守护进程服务；无 Qt GUI。
从源码构建	克隆仓库，运行 `./scripts/install.sh`（开发模式）或 `./deployment/install_distributed.sh` 进行分离的守护进程/GUI 安装。

所有路径最终都会安装相同的旁车二进制文件（LLM 用 llama.cpp，STT 用 whisper.cpp），这些文件会自动构建或下载。

架构概览

flowchart LR
  User --> Native[Native launcher & side‑cars]
  Native --> GUI[Desktop client (src)]
  Native --> Daemon[Headless daemon (services)]
  GUI --> Daemon
  Native --> Sidecars[llama.cpp & whisper.cpp]
  Daemon --> Sidecars
  GUI --> Scripts[dev tools]
  Daemon --> Scripts
  GUI --> Data[(AIRUNNER_BASE_PATH)]
  Daemon --> Data

src – 基于 Qt 的 GUI、小部件、入口点。
services – FastAPI 服务器、模型下载管理器、持久化、安全过滤器。
native – 捆绑已编译的旁车并启动适当入口点的小型辅助程序。
scripts – 用于构建 UI、运行测试、生成证书等的辅助命令。

模型支持（默认模型）

类型	默认模型（大小）
LLM	Qwen3.5‑9B GGUF（`Q8_0`，约 12GB VRAM）
图像	Stable Diffusion 1.5（约 2GB）和 Z-Image Turbo（约 12GB）
TTS	OpenVoice（约 654MB）
STT	`Systran/faster-distil-whisper-large-v3`

您可以通过在 ~/.local/share/airunner/... 中放置兼容文件或通过 CLI/GUI 下载管理器传递路径来替换这些模型。

维护者

该项目根据 GPL-3.0 许可证发布，主要由 Capsize LLC（https://capsize.online）的一名工程师开发。社区支持通过 Discord（徽章中的链接）和 GitHub 问题跟踪器进行。

快速开始（大多数用户的一行命令）

# Linux/macOS – 安装 Python 包并运行 GUI
pip install "airunner" "airunner-services[headless]"
airunner   # 打开桌面应用

对于无头 API 服务器：

airunner-headless   # 监听 http://127.0.0.1:8080

总结

AI Runner 是一个真正的、自托管的 AI 助手 + 生成艺术平台。它捆绑了本地 LLM 推理（通过 llama.cpp）、扩散图像生成和语音流水线，全部包裹在隐私至上的桌面 UI 中，也可以作为 REST 服务公开。