Capsize-Games/airunner

Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows

What it solves

AI Runner 提供了一個私密的、離線的環境，用於與 AI 伴侶互動並生成 AI 藝術。它透過在用戶的硬體上本地運行所有內容，消除了對網路連接、API 金鑰或訂閱服務的需求，確保對話、記憶與創作保持私密。

How it works

該專案結合了可自定義的 AI 伴侶與分層藝術畫布。伴侶使用本地 LLM、Text-to-Speech (TTS) 與 Speech-to-Text (STT) 進行語音對話，並透過 RAG 提供長期記憶。藝術畫布整合了 SDXL 與 Z-Image Turbo 等圖像生成模型，允許用戶使用 image-to-image 與 inpainting 技術進行素描、繪畫與迭代。它也可以作為一個 headless HTTP API server，與 Ollama 與 OpenAI 端點相容，用於遠端存取或與其他工具整合。

Who it’s for

想要獲得高度私密、本地 AI 體驗，用於伴侶互動與創意藝術生成，且不依賴雲端服務的用戶。

Highlights

  • Privacy-First Design: 全本地化執行，無外部 API 或遙測數據。
  • Multimodal Capabilities: 整合了語音對話 (TTS/STT) 與圖像生成。
  • RAG-Powered Memory: 伴侶會在不同會話中建立用戶的長期記憶。
  • Layered Art Canvas: 支持素描、合成與 image-to-image 迭代的繪圖表面。
  • Flexible Deployment: 可作為 GUI 應用程式或具備 Ollama/OpenAI 相容性的 headless HTTP API server。
  • Model Management: 內建用於 HuggingFace 與 CivitAI 模型的下載器。"},