openucx/ucc

해결하는 문제

UCC는 AI/ML, 고성능 컴퓨팅(HPC), I/O 워크로드에 대해 다양한 하드웨어와 프로그래밍 모델 간에 고성능 및 확장성을 보장하는 통합 API와 라이브러리를 제공합니다.

작동 방식

비차단 작업과 느슨한 순서 모델을 지원하는 유연한 통신 레이어로 작동합니다. 다양한 전송 수단과 하드웨어 집단 작업과 통합되며, 하드웨어 가속 집단 작업을 1등 시민으로 취급합니다. UCX 위에 구축되어 CUDA 및 HIP(AMD)을 포함한 여러 GPU 백엔드를 지원합니다.

대상 사용자

다수의 처리 단위(CPU, GPU, DPU) 간에 효율적인 데이터 교환을 필요로 하는 대규모 AI/ML 학습 및 HPC 애플리케이션 개발자.

주요 특징

• 광범위한 하드웨어 지원: InfiniBand, ROCE, CUDA, NCCL, RCCL, SHARP와 호환됩니다.
• 확장 가능한 성능: 고규모 AI/ML 및 HPC 워크로드에 특화되어 설계되었습니다.
• 유연한 프로그래밍: 반복적인 집단 작업(초기화는 한 번, 호출은 여러 번)과 비차단 작업을 지원합니다.
• 다중 런타임 통합: Open MPI 및 OpenSHMEM와 호환됩니다.