insight-platform/Savant
Python Computer Vision & Video Analytics Framework With Batteries Included
What it solves
Savant 簡化了在 Nvidia 硬體上建立高效能、即時多媒體 AI 應用的流程。它消除了一般需要的 Nvidia DeepStream 低階程式設計，使開發者能夠建構可擴充、容錯的電腦視覺與影片分析推論管線，且可同時在邊緣裝置（Jetson）與資料中心運行。
How it works
Savant 作為建構於 Nvidia DeepStream 之上的高階抽象層。它採用宣告式方式，透過 YAML 設定檔將管線定義為區塊，並以 Python 函式實作。框架提供統一的影片與中繼資料傳遞協定、用於整合的 Client SDK，以及允許在不重新啟動管線的情況下動態重新載入程式碼的 Development Server。
Who it’s for
電腦視覺與影片分析工程師，需要在 Nvidia 設備上部署可投入生產的應用，且希望透過避免低階 SDK 的複雜度來縮短上市時間。
Highlights
- Hardware Versatility: 支援 Nvidia Jetson（Nano/NX/AGX）與資料中心 GPU（Turing、Ampere、Ada、Hopper、Blackwell）。
- GPU-Accelerated Processing: 整合 PyTorch、CuPy 與 OpenCV CUDA，直接在 GPU 記憶體中執行推論與後處理，最小化 CPU‑GPU 資料傳輸。
- Extensive Connectivity: 內建多種來源與匯出介面，支援 RTSP、USB/CSI 攝影機、Kafka‑Redis 與 Amazon Kinesis Video Streams。
- Cloud-Native: 以 Docker 部署，並內建使用 OpenTelemetry 與 Prometheus 的監控與追蹤功能。
- Dynamic Management: 支援即時附加/移除資料來源與動態更新管線參數，無需重新載入。