tetherto/qvac

解決的問題

QVAC 提供了一種統一的方法，可在多個平台（Linux、macOS、Windows、Android 和 iOS）的通用硬體上本地執行各種 AI 工作負載。它消除了對雲端 AI API 的需求，確保資料隱私、離線可用性，並讓使用者完全掌控 AI 系統。

運作方式

QVAC 提供兩種主要整合途徑：適用於 JavaScript/TypeScript 和 Python 的 SDK，用於建構以本地為首要的 AI 應用；以及一個 OpenAI 相容的 HTTP 伺服器，讓現有的 AI 工具可將 QVAC 作為本地模型提供者使用。它使用經過優化的開源模型，並採用點對點（P2P）系統，讓使用者之間可直接下載模型，避開中心化主機。

適用對象

需要在無雲端依賴的情況下具備 AI 功能的行動與桌面應用開發者，以及希望將自己喜愛的 AI 工具連接到本地模型的使用者。

主要特色

• 跨平台支援：使用單一程式碼庫即可在桌面與行動作業系統上運作。
• 全面的 AI 能力：支援文字生成、RAG、微調（LoRA）、多模態推論、影像/影片/音樂生成、語音轉錄與 OCR。
• P2P 模型分發：使用分散式模型登錄系統，直接從對等節點取得模型。
• OpenAI 相容 API：透過其 HTTP 伺服器，可與 OpenCode 和 OpenClaw 等工具無縫整合。