Capsize-Games/airunner
Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows
它解決的問題
AI Runner 提供了一個私密、以本地為首的環境,讓使用者能與 AI 伴侶互動並生成 AI 藝術。它透過在使用者自己的硬體上運行所有功能,完全不需要網路連線、 API 金鑰或訂閱服務,確保資料隱私並支援離線使用。
如何運作
系統透過一個無頭守護程序(FastAPI 伺服器)來協調各種 AI 執行環境。它使用 llama.cpp 和 whisper.cpp 作為原生旁路程式,提供 LLM 和語音辨識(STT)功能,並使用 Python 執行環境支援圖像生成(SDXL、Z-Image Turbo)與語音合成(TTS)。桌面 GUI 客戶端會連接到此守護程序,提供聊天與藝術創作的使用者介面。
適用對象
希望擁有高度可自訂、私密的 AI 伴侶,具備長期記憶與多層次藝術畫布,可在本地執行,用於 AI 協助繪圖與圖像生成的使用者。
主要特色
- 可自訂的 AI 伴侶:建立一名具備特定個性、聲音與情緒的命名伴侶,並隨著對話持續演變。
- 多層藝術畫布:支援草圖、繪畫與圖像轉換生成(含修補與濾鏡)的多層繪圖介面。
- 以本地為首的隱私保障:預設無遙測資料,且資料不會離開機器。
- 多模態功能:整合語音合成(TTS)與語音辨識(STT),支援語音對話。
- RAG 驅動的記憶:伴侶利用檢索增強生成(RAG)技術,在不同會話間建立使用者的長期記憶。
- 環境感知能力:伴侶能感知當前時間、日期與當地天氣。
- 模型管理功能:內建 HuggingFace 與 CivitAI 模型下載器。
相關
- 專案
- 專案
- 專案
- 專案
- 專案