open-edge-platform/dlstreamer

Deep Learning Streamer (DL Streamer) Pipeline Framework is an open-source streaming media analytics framework, based on GStreamer* multimedia framework, for creating complex media analytics pipelines for the Cloud or at the Edge.

它解決了什麼問題

DL Streamer 簡化了硬體加速影片與音訊分析管線的建立。它透過允許開發者使用簡單的字串或最少的 Python/C++ 程式碼來建構生產級別的智慧型管線(從簡單的物件偵測到多感測器部署),移除了為邊緣 AI 撰寫大量程式碼的複雜性。

它是如何運作的

DL Streamer 建構於 GStreamer 框架並由 OpenVINO 提供動力,提供一組可鏈結在一起形成處理管線的專用元素(外掛)。這些管線可以從單一程式碼基礎針對 Intel CPU、GPU 和 NPU。它支援來自 Hugging Face、Ultralytics 和 Geti 等來源的廣泛模型,並能直接與 MQTT 和 Kafka 等訊息系統整合,以輸出推論結果。

適合對象

它專為開發邊緣 AI 應用程式的開發者設計,特別是針對 Intel 硬體的開發者,他們需要以高效能且開發開銷低的方式部署影片分析、3D 感測器處理(LiDAR/Radar/Radar)或視覺-言模型(VLM)。

亮點

  • 單行管線:使用單一 gst-launch-1.0 指令建立功能性偵測管線。
  • **廣泛硬體)或視覺-語言模型(VLM)。

亮點

  • 單行管線:使用單一 gst-launch-1.0 指令建立功能性偵測管線。
  • 廣泛硬體加速:統一支援 Intel CPU、GPU 和 NPU。
  • GenAI 與 VLM 準備就緒:能夠運行視覺-語言模型,如 MiniCPM-V、CLIP 和 Whisper。
  • 多感測器支援:能夠在單一進程中多路復用和分離多個 RTSP 串流、LiDAR 幀以及雷達點雲。
  • Python 優先擴展性:透過 Python 回呼或完整的 Python GStreamer 元素來添加自訂邏輯。