Arm-Examples/ML-examples

Arm Machine Learning tutorials and examples

What it solves

本仓库提供了一套实用的机器学习学习示例与教程，旨在帮助开发者在 Arm 架构的硬件上优化与部署 AI 模型，特别针对神经网络处理器 (NPU) 与 Cortex 系列平台。

How it works

该项目组织了一系列专门的示例，展示了 Arm 硬件上机器学习流水线 (ML pipeline) 的不同方面：

  • Hardware Acceleration: 在 Corstone-300 与 Corstone-1000 平台上使用 Ethos-U NPU 的示例。
  • Library Integration: 展示如何使用 KleidiAI 库。
  • Model Optimization: 关于剪枝 (pruning) 与聚类 (clustering) 的教程，以减少 Ethos NPU 的模型权重大小。
  • Framework Integration: 使用 PyTorch/ExecuTorch 训练 Conformer 网络进行语音识别，并将其导出到 Ethos-U。
  • TensorFlow Lite Deployment: 一个展示如何针对 .tflite 格式导出进行 RNN unrolling 的 Jupyter notebook。

Who it’s for

针对旨在于边缘 AI 部署中使用 Arm Cortex 与 Ethos NPU 硬件的嵌入式系统开发者与 ML 工程师。

Highlights

  • 支持 Arm Ethos-U NPU 与 Corstone 参考平台。
  • 提供模型压缩技术（如剪枝与聚类）的示例。
  • 与 PyTorch, ExecuTorch, 和 TensorFlow Lite 整合。
  • 針對 Conformer 网络进行语音识别的具体实现方案。