hyperspaceai/hyperspace-node

해결하는 문제

Hyperspace는 중앙 서버가 필요 없이 분산형 피어투피어(P2P) 네트워크를 통해 AI 추론을 가능하게 합니다. 사용자는 자신의 하드웨어 리소스(예: GPU 계산, 스토리지, 대역폭)를 글로벌 풀에 기여하여 AI 모델을 실행할 수 있으며, 기여에 따라 보상을 받을 수 있습니다.

작동 방식

libp2p 프로토콜 스택 기반으로 구축되었으며, 피어 발견에는 분산 해시 테이블(DHT), 통신에는 GossipSub를 사용합니다. 에이전트는 CLI 도구, 데스크톱 트레이 앱, 또는 WebGPU를 통해 브라우저에서 직접 실행할 수 있습니다.

하드웨어에 따라 에이전트는 다음과 같은 "기능"을 제공합니다:

• 추론: LLM 실행 (GGUF 모델 최대 32B 파라미터까지 지원).
• 임베딩: CPU에서 벡터 임베딩 생성.
• 스토리지 및 메모리: 분산 블록 스토리지 및 벡터 데이터베이스 제공.
• 릴레이 및 프록시: 다른 에이전트의 연결을 도우며 주거용 IP 프록시 제공.

에이전트가 리소스를 정직하게 보고하도록 보장하기 위해, 네트워크는 "Pulse" 검증 프로토콜을 사용합니다. Merkle 증명을 사용한 하트비트 시스템으로, 에이전트가 실제로 온라인이고 작업을 수행할 수 있는지 검증합니다.

대상 사용자

• 사용하지 않는 GPU나 CPU 성능을 수익화하고 싶은 하드웨어 소유자.
• 중앙 집중식 AI 추론 제공자 대안을 찾는 AI 개발자 및 사용자.
• 자신의 하드웨어로는 실행할 수 없는 큰 모델을 P2P 네트워크를 통해 실행하고 싶은 사용자.

주요 특징

• 다중 플랫폼 지원: macOS, Linux, Windows, 브라우저에서 직접 실행 가능.
• 인센티브 시스템: 가용 시간(존재)과 실제 수행된 작업(활성 작업)에 따라 포인트로 보상.
• 유연한 배포: 헤드리스 서버용 CLI, 데스크톱 사용자용 트레이 앱, 설치 없이 사용 가능한 브라우저 버전 제공.
• 네이티브 통합: llama-server 및 Ollama와 통합되어 GPU 추론을 최적화.