CVCUDA/CV-CUDA

解決する課題

CV-CUDAは、高スループット・低レイテンシの画像およびビデオ処理を提供することで、AIパイプラインにおけるボトルネックを解消するように設計されています。AIモデルが配置されているものと同じGPU上で、低速なCPUベースの前処理を置き換えることで、データフローの高速化とコスト削減を実現します。

仕組み

C/C++およびPythonとシームレスに統合される、GPU加速コンピュータービジョンアルゴリズムライブラリです。開発者は、画像のサイズ変更やデコード（nvImageCodecとの統合による）などの操作をGPU上で直接実行できるため、CPUとGPUメモリ間でのデータ移動の必要がなくなります。

対象ユーザー

NVIDIAのクラウド、デスクトップ、エッジプラットフォーム（Jetsonを含む）で、処理速度とスケーラビリティを最大限に高める必要がある、コンピュータービジョンのためのAIパイプラインを構築する開発者。

ハイライト

• 高スループットを実現するGPU加速コンピュータービジョンオペレータ。
• PythonおよびC/C++ AIフレームワークとのシームレスな統合。
• 幅広いNVIDIAハードウェアアーキテクチャ（Turing, Ampere, Ada Lovelace, Hopper, Blackwell）をサポート。
• Linux, WSL2, およびaarch64プラットフォームと互換性。