jatinchowdhury18/RTNeural

解決的問題

RTNeural 是一個專為即時系統設計的輕量級 C++ 推論引擎，特別著重於即時音訊處理。它讓開發者能在低延遲與高效率至關重要的環境中執行預先訓練的神經網路。

工作原理

此套件從 TensorFlow 或 PyTorch 等框架訓練的神經網路中，透過 JSON 檔案匯入權重，並在 C++ 中執行前向傳播（推論）。它提供兩種主要 API：

• 動態 API：從 JSON 檔案在執行時期建立推論引擎。
• 編譯時期 API：在編譯時期定義模型架構，透過固定網路結構大幅提升效能。

為優化效能，支援三種後端：Eigen、xsimd 和 C++ STL，並可使用 AVX SIMD 擴充功能進行建置。

適用對象

適用於開發即時應用的 C++ 開發者，特別是開發音訊插件（VST、AU、LV2）或需要即時神經網路推論的嵌入式系統的人。

主要特色

• 即時優化：專為低延遲音訊處理而設計。
• 彈性權重載入：支援從 TensorFlow 和 PyTorch 匯入權重。
• 廣泛的層支援：包含 Dense、GRU、LSTM、Conv1D、Conv2D 和 BatchNorm 層。
• 多種後端選擇：可依平台效能調校選擇 Eigen、xsimd 或 STL。
• 編譯時期優化：可靜態定義模型以達成最大速度。