AmusementClub/vs-mlrt

解決的問題

它為 VapourSynth ML 濾鏡提供了一套高性能的 AI 推理執行階段，允許使用者在包括 Intel、NVIDIA 和 AMD 的 x86 CPU 與 GPU 以及 Apple SoC 在內的各種硬體平台上執行基於 AI 的影片處理濾鏡。

工作原理

本專案將多個專門的推理後端打包為 VapourSynth 插件。它利用業界標準的執行階段來優化特定硬體的效能：

• OpenVINO: 針對 Intel CPU 與 GPU 進行了優化。
• ONNX Runtime: 提供通用的 CPU 與 CUDA GPU 支援，包括用於 Apple SoC 的 CoreML。
• TensorRT/TensorRT-RTX: 透過硬體特定的基準測試，針對 NVIDIA GPU 進行了高度優化。
• MIGraphX: 針對 AMD GPU 進行了優化。
• ncnn: 使用 Vulkan API 提供輕量級的跨廠商 GPU 執行階段（NVIDIA、AMD、Intel）。

為了簡化使用者體驗，它包含一個 Python 封裝器 (vsmlrt.py)，為選擇這些不同的後端與管理綑綁模型提供統一的介面。

適用對象

使用 VapourSynth 的影片處理愛好者與開發人員，他們希望針對其特定硬體以最佳效能將 AI 濾鏡應用於其影片內容。