CVCUDA/CV-CUDA

解决的问题

CV-CUDA 旨在通过提供高吞吐量、低延迟的图像和视频处理来消除 AI 流水线中的瓶颈。它在运行 AI 模型的同一 GPU 上取代了缓慢的基于 CPU 的预处理，从而实现更快的数据流并降低成本。

工作原理

这是一个与 C/C++ 和 Python 无缝集成的 GPU 加速计算机视觉算法库。它允许开发人员直接在 GPU 上执行图像缩放和解码（通过与 nvImageCodec 集成）等操作，从而避免了在 CPU 和 GPU 内存之间移动数据的需要。

适用对象

在 NVIDIA 云、桌面和边缘平台（包括 Jetson）上构建计算机视觉 AI 流水线，并需要最大化处理速度和扩展性的开发人员。

亮点

• 用于高吞吐量的 GPU 加速计算机视觉算子。
• 与 Python 和 C/C++ AI 框架无缝集成。
• 支持广泛的 NVIDIA 硬件架构（Turing, Ampere, Ada Lovelace, Hopper, Blackwell）。
• 兼容 Linux、WSL2 和 aarch64 平台。