CVCUDA/CV-CUDA

CV-CUDA™ is an open-source, GPU accelerated library for cloud-scale image processing and computer vision.

What it solves

CV-CUDA 旨在通过提供高吞吐量、低延迟的图像和视频处理来消除 AI 流水线中的瓶颈。它将较慢的 CPU 基于预处理步骤替换为 GPU 加速算法，以确保 AI 模型可以在 NVIDIA 云端、桌面和边缘平台上的数据喂入速度达到最大化。

How it works

这是一个包含 GPU 加速计算机视觉算法的库，可以与 C/C++ 和 Python 无缝集成。它允许开发者直接在 GPU 上执行如图像缩放和解码（通过 nvImageCodec）等操作，将数据保留在 GPU 内存中，以避免 CPU 和 GPU 之间的昂贵传输。

Who it’s for

正在为计算机视觉构建 AI 流水线的开发者，特别是那些在 Linux 或使用 WSL2 并在 NVIDIA GPU（Turing, Ampere, Ada Lovelace, Hopper, 和 Blackwell 架构）上进行开发的人士。 ext:

Highlights

  • GPU 加速的计算机视觉算法，提供高吞吐量和低延迟。
  • 与 Python 和 C/C++ AI 框架的无缝集成。
  • 支持广泛的 NVIDIA 硬件，包括服务器级 GPU 和 Jetson embedded 平台。
  • 针对云端、桌面和边缘环境的可扩展性进行了优化。