tracel-ai/burn

Burn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.

解決的問題

Burn 解決了從基於 Python 的訓練環境導出模型至生產引擎時脆弱且有損的流程。它將訓練與推論統一於單一程式碼庫中,使完全相同的程式碼可用於兩者,從而簡化設備端個人化與聯邦學習。

工作原理

Burn 是以 Rust 編寫的張量庫與深度學習框架。它使用統一的 API 在多個平台執行張量運算。為在不犧牲彈性的情況下維持效能,它會 JIT 編譯張量運算串流並執行自動內核融合。專為增量編譯設計,確保模型變更能在 5 秒內完成重新編譯。

適用對象

適用於希望獲得 Rust 的速度與安全性,同時擁有類似 Python 的反饋迴圈的研究人員與開發者,以及希望將模型部署至從嵌入式設備(no_std)到大型 GPU 集群,以及透過 WebAssembly 在瀏覽器中執行的多樣化硬體的團隊。

主要亮點

  • 多平台後端支援:支援 CUDA、ROCm、Metal、Vulkan、WebGPU 與 CPU 後端。
  • 後端裝飾器:使用裝飾器向任何基礎後端新增自動微分(Autodiff)與內核融合(Fusion)等功能。
  • 模型互操作性:可將 ONNX 模型導入為原生 Rust 程式碼,並從 PyTorch 或 Safetensors 加載權重。
  • 部署彈性:支援透過 WebAssembly 在瀏覽器中進行推論,並透過 no_std 支援在裸金屬嵌入式環境中執行。
  • 整合工具:包含用於即時訓練監控的終端 UI 仪表板與專用的基準測試套件。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案