kompute: 다양한 그래픽 카드 브랜드에서 고성능 가속을 위한 크로스 벤더 GPU 컴퓨트 프레임워크

kompute: 다양한 그래픽 카드 브랜드에서 고성능 가속을 위한 크로스 벤더 GPU 컴퓨트 프레임워크

해결하는 문제

Kompute는 AMD, Qualcomm, NVIDIA 등 다양한 그래픽 카드를 위한 크로스 벤더 호환성을 제공하도록 설계된 범용 GPU 컴퓨트 프레임워크입니다. 머신러닝 및 데이터 처리와 같은 GPU 가속 애플리케이션을 작성하는 과정을 단순화하며, 단일 벤더의 독점 에코시스템에 얽매이지 않도록 합니다.

작동 방식

Kompute는 Vulkan API 위에 구축되었으며, "Bring-your-own-Vulkan" 설계를 사용해 기존 Vulkan 애플리케이션과 원활하게 통합됩니다. GPU 리소스를 관리하기 위한 C++ SDK와 Python 모듈을 제공합니다. 프레임워크는 장치 구성 요소를 조정하는 Manager, 구조화된 데이터를 위한 Tensor, 그리고 GPU에서 로직을 실행하는 쉐이더 기반 Algorithm을 사용합니다. GPU 패밀리 큐를 통한 비동기 및 병렬 처리를 지원하며, 호스트와 GPU 메모리 모두에 대한 명시적 메모리 관리를 제공합니다.

대상 사용자

다양한 하드웨어 벤더에 걸쳐 고성능 GPU 가속이 필요한 개발자를 위한 것으로, 머신러닝 모델을 구축하는 사람, Android NDK를 이용한 모바일 애플리케이션 개발자, 그리고 Godot Engine 등을 사용하는 게임 개발자를 포함합니다.

주요 특징

  • 크로스 벤더 지원: AMD, NVIDIA, Qualcomm GPU에서 동작합니다.
  • 모바일 지원: Android NDK 지원으로 모바일 환경에 최적화되었습니다.
  • 유연한 인터페이스: 최적화를 위한 저수준 C++ SDK와 빠른 실험을 위한 고수준 Python 패키지를 모두 제공합니다.
  • 비동기 실행: 여러 GPU 큐에 걸친 병렬 작업을 지원합니다.
  • 산업계 지원: LF AI & Data Foundation이 주관하는 프로젝트입니다.

요약: Vulkan 기반의 크로스 벤더 GPU 컴퓨트 프레임워크로, AMD, NVIDIA, Qualcomm 하드웨어 전반에 걸쳐 머신러닝 및 데이터 처리에 고성능 가속을 제공합니다.

제목: kompute: 다양한 그래픽 카드 브랜드에서 고성능 가속을 위한 크로스 벤더 GPU 컴퓨트 프레임워크

Sources