CV-CUDA: AI 전처리 파이프라인을 위한 고처리량 GPU 가속 컴퓨터 비전 라이브러리
CV-CUDA: AI 전처리 파이프라인을 위한 고처리량 GPU 가속 컴퓨터 비전 라이브러리
해결하는 문제
CV-CUDA는 AI 파이프라인의 병목 현상을 없애기 위해 고처리량, 저지연 이미지 및 비디오 처리를 제공합니다. 느린 CPU 기반 전처리 단계를 GPU 가속 알고리즘으로 대체하여 NVIDIA 클라우드, 데스크톱 및 엣지 플랫폼 전반에 걸쳐 AI 모델에 데이터를 최대 속도로 공급할 수 있게 합니다.
작동 방식
GPU 가속 컴퓨터 비전 알고리즘 라이브러리로, C/C++ 및 Python과 원활하게 통합됩니다. 이미지 리사이징 및 디코딩(nvImageCodec 사용)과 같은 작업을 GPU에서 직접 수행하게 하여 데이터를 GPU 메모리에 유지함으로써 CPU와 GPU 간의 비용이 많이 드는 전송을 방지합니다.
대상 사용자
Linux 또는 WSL2 환경에서 NVIDIA GPU(Turing, Ampere, Ada Lovelace, Hopper, Blackwell 아키텍처)를 사용하는 컴퓨터 비전 AI 파이프라인을 구축하는 개발자.
주요 특징
- 고처리량 및 저지연을 위한 GPU 가속 컴퓨터 비전 알고리즘.
- Python 및 C/C++ AI 프레임워크와의 원활한 통합.
- 서버급 GPU와 Jetson 임베디드 플랫폼을 포함한 다양한 NVIDIA 하드웨어 지원.
- 클라우드, 데스크톱, 엣지 환경 전반에 걸친 확장성을 위해 최적화.
Sources
- undefinedCVCUDA/CV-CUDA