tracel-ai/burn
Burn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.
解決的問題
Burn 解決了從基於 Python 的訓練環境導出模型至生產引擎時脆弱且有損的流程。它將訓練與推論統一於單一程式碼庫中,使完全相同的程式碼可用於兩者,從而簡化設備端個人化與聯邦學習。
工作原理
Burn 是以 Rust 編寫的張量庫與深度學習框架。它使用統一的 API 在多個平台執行張量運算。為在不犧牲彈性的情況下維持效能,它會 JIT 編譯張量運算串流並執行自動內核融合。專為增量編譯設計,確保模型變更能在 5 秒內完成重新編譯。
適用對象
適用於希望獲得 Rust 的速度與安全性,同時擁有類似 Python 的反饋迴圈的研究人員與開發者,以及希望將模型部署至從嵌入式設備(no_std)到大型 GPU 集群,以及透過 WebAssembly 在瀏覽器中執行的多樣化硬體的團隊。
主要亮點
- 多平台後端支援:支援 CUDA、ROCm、Metal、Vulkan、WebGPU 與 CPU 後端。
- 後端裝飾器:使用裝飾器向任何基礎後端新增自動微分(Autodiff)與內核融合(Fusion)等功能。
- 模型互操作性:可將 ONNX 模型導入為原生 Rust 程式碼,並從 PyTorch 或 Safetensors 加載權重。
- 部署彈性:支援透過 WebAssembly 在瀏覽器中進行推論,並透過
no_std支援在裸金屬嵌入式環境中執行。 - 整合工具:包含用於即時訓練監控的終端 UI 仪表板與專用的基準測試套件。
相關
- 專案
- 專案
- 專案
- 專案
- 專案