CVCUDA/CV-CUDA

解決的問題

CV-CUDA 旨在透過提供高吞吐量、低延遲的圖像與影片處理來消除 AI 流水線中的瓶頸。它在執行 AI 模型的同一 GPU 上取代了緩慢的基於 CPU 的預處理，從而實現更快的數據流並降低成本。

工作原理

這是一個與 C/C++ 和 Python 無縫集成的 GPU 加速電腦視覺演算法庫。它允許開發人員直接在 GPU 上執行圖像縮放與解碼（透過與 nvImageCodec 集成）等操作，從而避免了在 CPU 與 GPU 記憶體之間移動數據的需求。

適用對象

在 NVIDIA 雲端、桌面與邊緣平台（包括 Jetson）上建構電腦視覺 AI 流水線，並需要最大化處理速度與擴展性的開發人員。

亮點

• 用於高吞吐量的 GPU 加速電腦視覺算子。
• 與 Python 及 C/C++ AI 框架無縫集成。
• 支援廣泛的 NVIDIA 硬體架構（Turing, Ampere, Ada Lovelace, Hopper, Blackwell）。
• 相容於 Linux、WSL2 與 aarch64 平台。