tracel-ai/burn
Burn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.
解决的问题
Burn 解决了从基于 Python 的训练环境导出模型到生产引擎时脆弱且有损的流程。它将训练和推理统一到单一代码库中,使完全相同的代码可用于两者,从而简化了设备端个性化和联邦学习。
工作原理
Burn 是用 Rust 编写的张量库和深度学习框架。它使用统一的 API 在多个平台上执行张量操作。为了在不牺牲灵活性的前提下保持性能,它会 JIT 编译张量操作流并执行自动内核融合。它专为增量编译设计,确保模型更改在 5 秒内完成重新编译。
适用人群
适用于希望获得 Rust 的速度和安全性,同时拥有类似 Python 的反馈循环的研究人员和开发者,以及希望将模型部署到从嵌入式设备(no_std)到大型 GPU 集群和通过 WebAssembly 在浏览器中运行的多样化硬件的团队。
主要亮点
- 多平台后端支持:支持 CUDA、ROCm、Metal、Vulkan、WebGPU 和 CPU 后端。
- 后端装饰器:使用装饰器向任何基础后端添加自动微分(Autodiff)和内核融合(Fusion)等功能。
- 模型互操作性:能够将 ONNX 模型导入为原生 Rust 代码,并从 PyTorch 或 Safetensors 加载权重。
- 部署灵活性:支持通过 WebAssembly 在浏览器中进行推理,并通过
no_std支持在裸金属嵌入式环境中运行。 - 集成工具:包含用于实时训练监控的终端 UI 仪表板和专用的基准测试套件。
相关
- 项目
- 项目
- 项目
- 项目
- 项目