gonka-ai/gonka

Gonka AI Compute

해결 과제

중앙 집중식 클라우드 제공업체의 높은 비용과 독점적인 성격을 해결하기 위해 AI 모델 학습 및 추론을 위한 탈중앙화 인프라를 제공합니다. 리소스가 블록체인 보안에 낭비되지 않고 실제 AI 워크로드에 사용되도록 컴퓨팅 성능을 최적화하는 것을 목표로 합니다.

작동 방식

이 시스템은 Proof of Work 2.0이라는 새로운 합의 메커니즘을 사용하며, 노드는 transformer 기반 모델을 사용하여 'Sprints'에서 AI 작업을 해결하기 위해 경쟁합니다. 이러한 경쟁에서의 노드 성공 여부가 투표 가중치를 결정하며, 이는 다시 해당 노드에 할당되는 AI 추론 및 학습 워크로드의 양을 제어합니다.

과도한 오버헤드 없이 정직성을 보장하기 위해, 플랫폼은 무작위 작업 검증(작업의 1-10%만 확인)과 일관되게 정직한 노드의 검증 빈도를 줄이는 평판 시스템을 채택합니다. 분산 학습의 경우, DiLoCo의 주기적 동기화를 활용하여 지리적으로 분산된 하드웨어 제공업체 간의 통신 오버헤드를 최소화합니다.

대상 사용자

  • 개발자: 탈중앙화 네트워크에서 LLM 학습 및 추론을 실행하려는 개발자.
  • 호스트(하드웨어 제공업체): 컴퓨팅 리소스를 제공하고 보상을 받으려는 제공업체.

주요 특징

  • Proof of Work 2.0: 블록체인 합의를 실제 AI 모델 워크로드와 일치시킵니다.
  • 무작위 검증: 작업의 하위 집합을 확률적으로 검증하여 시스템 오버헤드를 줄입니다.
  • 지리적 분산 학습: DiLoCo를 사용하여 통신 지연을 최소화하면서 확장 가능한 탈중앙화 학습을 구현합니다.
  • 평판 기반 신뢰: 노드의 정직한 행동 이력을 기반으로 검증 빈도를 동적으로 조정합니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • Dispatch
  • Dispatch