burn: 一個用於跨多元硬體進行無縫訓練與推論的統一 Rust 深度學習框架

它解決了什麼問題

Burn 解決了 AI 模型訓練與生產部署之間的碎片化問題。傳統上，模型是在 Python 中訓練，然後匯出到 ONNX 等格式，或針對特定引擎（例如 vLLM、TensorRT）進行優化，這個過程通常既脆弱又容易造成資訊損失。Burn 透過在 Rust 中提供單一程式碼庫來統一這一點，同時進行訓練與推論，實現了無縫轉換，並支援如裝置端個人化與聯邦學習等進階案例。

運作原理

Burn 是一個張量庫與深度學習框架，它使用統一的 API 進行多平台張量操作。它結合了 PyTorch 的直覺易用性（動態形狀與圖形）以及 JIT 編譯與自動核心融合（kernel fusion）的效能。

其架構基於 Backend trait，使其可以對不同的運算引擎進行泛型化。它使用「後端裝飾器」（backend decorators）來增加功能：

• Autodiff：為任何基礎後端增加反向傳播功能。
• Fusion：為加速後端啟用核心融合，以提升效能。
• Remote：允許張量操作在遠端伺服器上執行，以進行分散式運算。

對象是誰

• AI 研究人員：想要類似 Python 的回饋迴圈（快速增量編譯），但同時擁有 Rust 的安全性與速度。
• ML 工程師：需要在不重寫程式碼的情況下，將模型部署到多元硬體（從嵌入式 no_std 裝置到大型 GPU 集群）上。
• 開發者：正在尋找一個完全開源且基於 Rust 的 AI 生態系統。

重點特色

• 統一的工作流程：在訓練與生產推論中使用完全相同的程式碼。
• 廣泛的硬體支援：支援 CUDA、ROCm、Metal、Vulkan、WebGPU 以及 CPU（包括用於裸機的 no_std）。
• 互操作性：從 ONNX、PyTorch 或 Safetensors 匯入模型。
• 開發者體驗：包含內建的終端機 UI 儀表板，用於即時訓練監控。
• 網頁就緒：能夠透過 WebAssembly 與 WebGPU 直接在瀏覽器中執行推論。