tetherto/qvac

解決する課題

QVACは、テキスト、ビジョン、オーディオ、生成メディアを含む多様なAIワークロードを、コンシューマー向けハードウェア上でローカルに実行するという課題に対処します。クラウドベースのAPIへの依存を排除し、デスクトップおよびモバイルプラットフォーム全体でプライバシーとオフライン機能を保証します。

仕組み

QVACは、ローカルでのモデル推論を処理するJavaScript/TypeScriptおよびPython向けの統合SDKを提供します。OpenAI互換のAPIを公開するHTTPサーバーが含まれており、開発者は既存のAIツールをローカルモデルに接続できます。このシステムはピアツーピアアーキテクチャを使用してモデルを配布するため、デバイスは中央サーバーに頼ることなく、直接相互にウェイトを取得できます。

対象ユーザー

ローカルファーストのAIアプリケーション、組み込みシステム、またはオンプレミスツールを構築する開発者向けに設計されており、データ主権を維持しながら複数のAI機能を単一のインターフェースで管理したい方に最適です。

ハイライト

• クロスプラットフォーム対応： Linux、macOS、Windows、Android、iOSで動作します。
• 包括的なAIスイート： テキスト生成、RAG、ファインチューニング、画像/動画生成、音声認識、さらにはロボット制御 (VLA) をサポートしています。
• OpenAI互換： 内蔵のHTTPサーバーにより、既存のAIエコシステムとのシームレスな統合が可能です。
• ピアツーピア配布： モデル共有と接続のための分散型モデルレジストリおよびリレーシステム。
• 開発者フレンドリー： PythonおよびJavaScript/TypeScript向けのネイティブSDKを提供し、進捗追跡とモデル管理機能を内蔵しています。