burn: 一个用于在不同硬件上实现无缝训练和推理的统一 Rust 深度学习框架

它解决了什么问题

Burn 解决了 AI 模型训练与生产部署之间的碎片化问题。传统上，模型在 Python 中进行训练，然后导出为 ONNX 等格式，或针对特定引擎（如 vLLM、TensorRT）进行优化，这一过程通常是脆弱且有损的。Burn 通过在 Rust 中提供用于训练和推理的单一代码库，统一了这一过程，实现了无缝过渡，并支持端侧个性化和联邦学习等高级用例。

它是如何工作的

Burn 是一个张量库和深度学习框架，它使用统一的 API 进行多平台张量操作。它结合了 PyTorch 的直观人体工程学（动态形状和图）与 JIT 编译和自动算子融合（kernel fusion）的性能。

其架构基于 Backend trait，使其能够对不同的计算引擎具有泛型支持。它使用“后端装饰器”来添加功能：

• Autodiff：为任何基础后端添加反向传播能力。
• Fusion：为加速后端启用算子融合以提高性能。
• Remote：允许在远程服务器上执行张量操作以进行分布式计算。

它是为谁准备的

• AI 研究员：希望拥有类似 Python 的反馈循环（快速增量编译），但同时具备 Rust 的安全性和速度。
• ML 工程师：需要跨多种硬件（从嵌入式 no_std 设备到大型 GPU 集群）部署模型，而无需重写代码。
• 开发者：正在寻找一个完全开源的、基于 Rust 的 AI 生态系统。

亮点

• 统一的工作流：在训练和生产推理中使用完全相同的代码。
• 广泛的硬件支持：支持 CUDA、ROCm、Metal、Vulkan、WebGPU 和 CPU（包括用于裸机的 no_std）。
• 互操作性：从 ONNX、PyTorch 或 Safetensors 导入模型。
• 开发者体验：包含一个内置的终端 UI 仪表板，用于实时训练监控。
• Web 就绪：能够通过 WebAssembly 和 WebGPU 直接在浏览器中运行推理。