hyperspaceai/hyperspace-node
The world's largest decentralized P2P AI inference network — 2M+ nodes, 3.6M+ downloads. CLI, Tray App, and Browser clients.
何を解決するか
Hyperspaceは、中央サーバーの必要性を排除する、分散型のピアツーピア(P2P)ネットワークをAI推論のために構築します。ユーザーは自身のハードウェアリソース(GPU計算、ストレージ、帯域幅など)をグローバルなプールに貢献し、AIモデルを実行できるようになり、その貢献に対して報酬を得られます。
動作方法
libp2pプロトコルスタックに基づいて構築されており、ピア発見には分散ハッシュテーブル(DHT)、通信にはGossipSubを使用しています。エージェントはCLIツール、デスクトップトレイアプリ、またはWebGPU経由のブラウザ上で直接実行できます。
ハードウェアに応じて、エージェントは以下の「能力」を提供します:
- 推論:LLMの実行(GGUFモデルを最大32Bパラメータまでサポート)。
- 埋め込み:CPU上でベクトル埋め込みを生成。
- ストレージ&メモリ:分散ブロックストレージとベクトルデータベースを提供。
- リレーやプロキシ:他のエージェントとの接続を支援し、住宅用IPプロキシを提供。
エージェントがリソースについて誠実であることを保証するために、ネットワークは「Pulse」検証プロトコル——Merkle証明を使用したハートビートシステム——を採用しています。これにより、エージェントが実際にオンラインで作業を実行できているかを検証します。
対象ユーザー
- オンラインのGPUやCPUパワーを収益化したいハードウェア所有者。
- 中央集権的なAI推論プロバイダーの代替として分散型ソリューションを求めるAI開発者やユーザー。
- 自分のマシンでは実行できない大きなモデルをP2Pネットワークを利用して実行したい、ハードウェアが限られたユーザー。
特徴
- マルチプラットフォーム対応:macOS、Linux、Windows、およびブラウザ上で直接実行可能。
- インセンティブシステム:稼働時間(存在)と実際に実行された作業(アクティブタスク)に基づいてポイントで報酬。
- 柔軟なデプロイ:ヘッドレスサーバー向けCLI、デスクトップユーザー向けトレイアプリ、インストール不要のブラウザ版を提供。
- ネイティブ統合:
llama-serverおよび Ollama と統合され、GPU推論を最適化。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- Dispatch
- Dispatch