insight-platform/Savant
Python Computer Vision & Video Analytics Framework With Batteries Included
What it solves
Savant 简化了在 Nvidia 硬件上创建高性能、实时多媒体 AI 应用的过程。它消除了通常需要的 Nvidia DeepStream 低层编程，使开发者能够构建可扩展、容错的计算机视觉和视频分析推理管道，能够在边缘设备（Jetson）和数据中心同时运行。
How it works
Savant 作为构建在 Nvidia DeepStream 之上的高层抽象层。它使用声明式方法，通过 YAML 配置将管道定义为块，并使用 Python 函数实现。框架提供统一的视频和元数据传输协议、用于集成的 Client SDK，以及一个 Development Server，允许在不重启管道的情况下动态重新加载代码。
Who it’s for
计算机视觉和视频分析工程师，需要在 Nvidia 设备上部署生产就绪的应用，并希望通过避免低层 SDK 的复杂性来缩短上市时间。
Highlights
- Hardware Versatility: 支持 Nvidia Jetson（Nano/NX/AGX）和数据中心 GPU（Turing、Ampere、Ada、Hopper、Blackwell）。
- GPU-Accelerated Processing: 集成 PyTorch、CuPy 和 OpenCV CUDA，在 GPU 内存中直接执行推理和后处理，最小化 CPU‑GPU 数据传输。
- Extensive Connectivity: 包含丰富的内置源和汇适配器，支持 RTSP、USB/CSI 摄像头、Kafka‑Redis 和 Amazon Kinesis Video Streams。
- Cloud-Native: 通过 Docker 部署，并使用 OpenTelemetry 和 Prometheus 实现集成监控与追踪。
- Dynamic Management: 支持在运行时附加/分离数据源并动态更新管道参数，无需重新加载。