hyperspaceai/hyperspace-node

解决的问题

Hyperspace 构建了一个去中心化的点对点（P2P）网络，用于 AI 推理，无需依赖中心化服务器。用户可以将自己的硬件资源（如 GPU 计算、存储和带宽）贡献到一个全球资源池中，用于运行 AI 模型，同时因其贡献而获得奖励。

如何工作

基于 libp2p 协议栈构建，网络使用分布式哈希表（DHT）进行节点发现，使用 GossipSub 进行通信。代理可以以 CLI 工具、桌面托盘应用或通过 WebGPU 在浏览器中直接运行。

根据硬件配置，代理提供不同的「能力」，包括：

• 推理：运行 LLM（支持最大 32B 参数的 GGUF 模型）。
• 嵌入：在 CPU 上生成向量嵌入。
• 存储与内存：提供分布式块存储和向量数据库。
• 中继与代理：帮助其他代理连接，并提供住宅 IP 代理服务。

为确保代理对其资源的诚实报告，网络采用「Pulse」验证协议——一种使用 Merkle 证明的心跳系统，用于验证代理是否实际在线并具备执行任务的能力。

适用人群

• 希望将闲置 GPU 或 CPU 功率变现的硬件所有者。
• 寻找去中心化 AI 推理服务替代方案的 AI 开发者和用户。
• 硬件有限，但希望借助 P2P 网络运行本地设备无法支持的大型模型的用户。

主要亮点

• 多平台支持：支持 macOS、Linux、Windows，以及直接在浏览器中运行。
• 激励机制：根据在线时长（存在性）和实际完成的工作量（活跃任务）发放积分奖励。
• 灵活部署：提供 CLI 用于无头服务器，托盘应用用于桌面用户，以及无需安装的浏览器版本。
• 原生集成：与 llama-server 和 Ollama 原生集成，优化 GPU 推理性能。