insight-platform/Savant
Python Computer Vision & Video Analytics Framework With Batteries Included
What it solves
Savant は、Nvidia ハードウェア上で高性能・リアルタイムなマルチメディア AI アプリケーションを作成する作業をシンプルにします。Nvidia DeepStream で通常必要となる低レベルプログラミングを不要にし、開発者はエッジデバイス（Jetson）とデータセンターの両方で動作する、スケーラブルでフォールトトレラントなコンピュータビジョン・ビデオ分析推論パイプラインを構築できます。
How it works
Savant は Nvidia DeepStream の上に構築されたハイレベル抽象レイヤーとして機能します。パイプラインは YAML 設定でブロックとして宣言的に定義され、Python 関数で実装されます。フレームワークはビデオとメタデータ配信の共通プロトコル、統合用の Client SDK、そしてパイプラインを再起動せずにコードを動的にリロードできる Development Server を提供します。
Who it’s for
Nvidia 機器上で本番環境向けアプリケーションをデプロイしたいコンピュータビジョン・ビデオ分析エンジニアで、低レベル SDK の複雑さを回避してタイム・トゥ・マーケットを短縮したい方。
Highlights
- Hardware Versatility: Nvidia Jetson（Nano/NX/AGX）とデータセンター GPU（Turing、Ampere、Ada、Hopper、Blackwell）をサポート。
- GPU-Accelerated Processing: PyTorch、CuPy、OpenCV CUDA を統合し、GPU メモリ上で直接推論と後処理を実行、CPU‑GPU 間のデータ転送を最小化。
- Extensive Connectivity: RTSP、USB/CSI カメラ、Kafka‑Redis、Amazon Kinesis Video Streams など、多種多様なソース・シンクアダプタを標準搭載。
- Cloud-Native: Docker でデプロイし、OpenTelemetry と Prometheus を用いた統合モニタリングとトレースを提供。
- Dynamic Management: パイプラインの再ロードなしでデータソースの付脱着やパラメータ更新がリアルタイムに可能。