CVCUDA/CV-CUDA

CV-CUDA™ is an open-source, GPU accelerated library for cloud-scale image processing and computer vision.

CV‑CUDA – GPU アクセラレーション対応コンピュータビジョンライブラリ

概要

  • 画像およびビデオ処理オペレータ(リサイズ、色変換、フィルタなど)の大規模なセットを実装し、完全に GPU 上で実行するオープンソースの NVIDIA ライブラリ。
  • クラウドサーバーから Jetson エッジデバイスまで、NVIDIA ハードウェア上の AI パイプライン向けの高スループット、低レイテンシのビルディングブロックとして設計されています。

主な機能

  • GPU ネイティブオペレータ – すべての関数が GPU メモリ上で動作し、コストのかかるホスト・デバイス間転送を回避します。
  • Python および C/C++ API – Python(cvcuda ホイール経由)または C/C++ コードから直接ライブラリを使用できます。
  • 幅広いハードウェアサポート – CUDA 12.x または 13.x を使用して、x86_64 および aarch64(ARM ベースの Grace および Jetson を含む)で動作します。
  • 他の NVIDIA ツールとの統合 – GPU ダイレクト JPEG デコードのための nvImageCodec との例が示されており、ライブラリは他の CUDA アクセラレーションコンポーネントとチェーンできます。
  • スケーラブルなパッケージング – プリビルドの Python ホイール、Debian パッケージ、ソースビルド。一度にインストールできる CUDA バージョンは 1 つのみです。

典型的なユースケース

  • ディープラーニング推論用のフレームの前処理(例:リサイズ、色変換、クロップ)をビデオスケールのレートで実行。
  • レイテンシが重要となるリアルタイムのビジュアルサーチパイプライン。
  • CPU ボトルネックなしにカメラストリームを処理する必要がある Jetson デバイス上のエッジ AI。
  • パイプライン全体でデータを GPU 上に保持することが有益な、あらゆるコンピュータビジョンワークフロー。

はじめに

# CUDA バージョンに一致するホイールをインストール
pip install cvcuda-cu12   # CUDA 12.x 用
# または
pip install cvcuda-cu13   # CUDA 13.x 用

最小限の Python 例(README に記載):

import cvcuda
from nvidia import nvimgcodec

decoder = nvimgcodec.Decoder()
img = decoder.read('input.jpg')          # GPU ダイレクトデコード
tensor = cvcuda.as_tensor(img, 'HWC')    # CV‑CUDA テンソルとしてラップ
resized = cvcuda.resize(tensor, (224,224,3), cvcuda.Interp.LINEAR)

ソースからのビルド、Docker 開発イメージ、プラットフォーム固有の注意事項を含む完全なインストール詳細については、オンラインドキュメントを参照してください:https://cvcuda.github.io/CV-CUDA/installation.html。

プロジェクトの健全性とコミュニティ

  • NVIDIA によって積極的にメンテナンスされています(最新バージョン v0.19.0)。
  • Linux(many‑linux、Ubuntu 22.04+、WSL2)および aarch64 向けのプリビルドバイナリ。Windows は WSL2 経由でのみサポート。
  • 現在、コントリビューションは NVIDIA 内部チームに限定されていますが、ユーザーは GitHub の issue を通じてバグや機能リクエストを報告できます。
  • Apache‑2.0 ライセンスで、商用利用と変更が可能です。

重要性 CV‑CUDA により、開発者はビジョン前処理スタック全体を GPU 上に保持でき、大規模 AI サービスのスループットを制限する従来の CPU‑GPU ボトルネックを排除できます。CPU ベースのライブラリ(例:OpenCV)に代わるドロップインで GPU アクセラレーションされた代替手段を提供することで、AI チームはビジュアルサーチ、ビデオエンハンスメント、リアルタイム分析などのタスクで、より高いフレームレートと低レイテンシを達成できます。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • Dispatch
  • プロジェクト