insight-platform/Savant
Python Computer Vision & Video Analytics Framework With Batteries Included
What it solves
Savant는 Nvidia 하드웨어에서 고성능, 실시간 멀티미디어 AI 애플리케이션을 만드는 과정을 단순화합니다. 일반적으로 Nvidia DeepStream에서 요구되는 저수준 프로그래밍을 없애고, 개발자가 엣지 디바이스(Jetson)와 데이터 센터 모두에서 작동하는 확장 가능하고 내결함성 있는 컴퓨터 비전 및 비디오 분석 추론 파이프라인을 구축할 수 있게 합니다.
How it works
Savant는 Nvidia DeepStream 위에 구축된 고수준 추상화 레이어 역할을 합니다. 파이프라인은 YAML 설정을 통해 블록으로 선언적으로 정의되고, Python 함수로 구현됩니다. 프레임워크는 비디오와 메타데이터 전달을 위한 공통 프로토콜, 통합을 위한 Client SDK, 그리고 파이프라인을 재시작하지 않고도 동적으로 코드를 다시 로드할 수 있는 Development Server를 제공합니다.
Who it’s for
Nvidia 장비에 프로덕션 수준의 애플리케이션을 배포해야 하며, 저수준 SDK 복잡성을 피해 시장 출시 시간을 단축하고자 하는 컴퓨터 비전 및 비디오 분석 엔지니어를 위한 것입니다.
Highlights
- Hardware Versatility: Nvidia Jetson(Nano/NX/AGX) 및 데이터센터 GPU(Turing, Ampere, Ada, Hopper, Blackwell)를 지원합니다.
- GPU-Accelerated Processing: PyTorch, CuPy, OpenCV CUDA를 통합하여 GPU 메모리에서 직접 추론 및 후처리를 수행함으로써 CPU‑GPU 간 데이터 전송을 최소화합니다.
- Extensive Connectivity: RTSP, USB/CSI 카메라, Kafka‑Redis, Amazon Kinesis Video Streams 등 다양한 소스 및 싱크 어댑터를 기본 제공합니다.
- Cloud-Native: Docker로 배포하며 OpenTelemetry와 Prometheus를 이용한 통합 모니터링 및 트레이싱을 포함합니다.
- Dynamic Management: 파이프라인을 재로드하지 않고도 데이터 소스를 실시간으로 연결/해제하고 파라미터를 업데이트할 수 있습니다.