Capsize-Games/airunner

Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows

它解決的問題

AI Runner 提供了一個私密、以本地為首的環境,讓使用者能與 AI 伴侶互動並生成 AI 藝術。它透過在使用者自己的硬體上運行所有功能,完全不需要網路連線、 API 金鑰或訂閱服務,確保資料隱私並支援離線使用。

如何運作

系統透過一個無頭守護程序(FastAPI 伺服器)來協調各種 AI 執行環境。它使用 llama.cppwhisper.cpp 作為原生旁路程式,提供 LLM 和語音辨識(STT)功能,並使用 Python 執行環境支援圖像生成(SDXL、Z-Image Turbo)與語音合成(TTS)。桌面 GUI 客戶端會連接到此守護程序,提供聊天與藝術創作的使用者介面。

適用對象

希望擁有高度可自訂、私密的 AI 伴侶,具備長期記憶與多層次藝術畫布,可在本地執行,用於 AI 協助繪圖與圖像生成的使用者。

主要特色

  • 可自訂的 AI 伴侶:建立一名具備特定個性、聲音與情緒的命名伴侶,並隨著對話持續演變。
  • 多層藝術畫布:支援草圖、繪畫與圖像轉換生成(含修補與濾鏡)的多層繪圖介面。
  • 以本地為首的隱私保障:預設無遙測資料,且資料不會離開機器。
  • 多模態功能:整合語音合成(TTS)與語音辨識(STT),支援語音對話。
  • RAG 驅動的記憶:伴侶利用檢索增強生成(RAG)技術,在不同會話間建立使用者的長期記憶。
  • 環境感知能力:伴侶能感知當前時間、日期與當地天氣。
  • 模型管理功能:內建 HuggingFace 與 CivitAI 模型下載器。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案