tetherto/qvac

解决的问题

QVAC 提供了一种统一的方法，可在多种平台（Linux、macOS、Windows、Android 和 iOS）的通用硬件上本地运行各种 AI 工作负载。它消除了对云 AI API 的依赖，确保数据隐私、离线可用性，并让用户完全掌控 AI 系统。

工作原理

QVAC 提供两种主要集成路径：适用于 JavaScript/TypeScript 和 Python 的 SDK，用于构建以本地优先的 AI 应用；以及一个 OpenAI 兼容的 HTTP 服务器，允许现有 AI 工具将 QVAC 作为本地模型提供者使用。它使用经过优化的开源模型，并采用点对点（P2P）系统，使用户之间可直接下载模型，绕过中心化托管。

适用人群

需要在无云依赖的情况下实现 AI 功能的移动和桌面应用开发者，以及希望将其喜爱的 AI 工具连接到本地模型的用户。

主要亮点

• 跨平台支持：使用单一代码库即可在桌面和移动操作系统上运行。
• 全面的 AI 能力：支持文本生成、RAG、微调（LoRA）、多模态推理、图像/视频/音乐生成、语音转录和 OCR。
• P2P 模型分发：使用分布式模型注册表，直接从对等节点获取模型。
• OpenAI 兼容 API：通过其 HTTP 服务器，可无缝集成 OpenCode 和 OpenClaw 等工具。