hyperspaceai/hyperspace-node

解決的問題

Hyperspace 建立了一個去中心化的點對點（P2P）網路，用於 AI 推論，無需依賴中心化伺服器。使用者可將自身的硬體資源（如 GPU 計算、儲存空間與頻寬）貢獻至全球資源池，用於執行 AI 模型，同時因其貢獻而獲得獎勵。

如何運作

基於 libp2p 協定堆疊建構，網路使用分散式雜湊表（DHT）進行節點發現，並以 GossipSub 進行通訊。代理可作為 CLI 工具、桌面系統匣應用，或透過 WebGPU 在瀏覽器中直接執行。

根據硬體配置，代理提供不同的「能力」，包括：

• 推論：執行 LLM（支援最大 32B 參數的 GGUF 模型）。
• 嵌入：在 CPU 上產生向量嵌入。
• 儲存與記憶體：提供分散式區塊儲存與向量資料庫。
• 中繼與代理：協助其他代理連線，並提供住宅 IP 代理服務。

為確保代理對其資源的誠實報告，網路採用「Pulse」驗證協定——一種使用 Merkle 證明的心跳系統，用以驗證代理是否實際在線並具備執行任務的能力。

適用對象

• 希望將閒置 GPU 或 CPU 能力變現的硬體擁有者。
• 尋找去中心化 AI 推論服務替代方案的 AI 開發者與使用者。
• 硬體資源有限，但希望透過 P2P 網路執行本地設備無法支援的大型模型的使用者。

主要亮點

• 多平台支援：支援 macOS、Linux、Windows，以及直接在瀏覽器中執行。
• 激勵機制：根據上線時長（存在性）與實際完成的工作量（活躍任務）發放積分獎勵。
• 彈性部署：提供 CLI 用於無頭伺服器，系統匣應用用於桌面使用者，以及免安裝的瀏覽器版本。
• 原生整合：與 llama-server 和 Ollama 原生整合，優化 GPU 推論效能。