Arm-Examples/ML-examples

Arm Machine Learning tutorials and examples

What it solves

這份儲存庫提供了一組實用的機器學習範例與教學，旨在幫助開發者在 Arm 架構的硬體上優化與部署 AI 模型，特別針對神經處理單元 (NPU) 與 Cortex 系列平台。

How it works

本專案整理了一系列專門的範例，展示了 Arm 硬體上機器學習流程的各個面向：

  • Hardware Acceleration: 在 Corstone-300 與 Corstone-1000 平台上使用 Ethos-U NPU 的範例。
  • Library Integration: 展示如何使用 KleidiAI 函式庫。
  • Model Optimization: 關於修剪 (pruning) 與分群 (clustering) 的教學，以減少 Ethos NPU 的模型權重大小。
  • Framework Integration: 使用 PyTorch/ExecuTorch 訓練 Conformer 網路進行語音辨識，並將其匯出至 Ethos-U 的指南。
  • TensorFlow Lite Deployment: 一個展示如何針對 .tflite 格式匯出進行 RNN unrolling 的 Jupyter notebook。

Who it’s for

針對旨在於邊緣 AI 部署中使用 Arm Cortex 與 Ethos NPU 硬體的嵌入式系統開發者與機器學習工程師。

Highlights

  • 支援 Arm Ethos-U NPU 與 Corstone 參考平台。
  • 提供模型壓縮技術（如修剪與分群）的範例。
  • 與 PyTorch、ExecuTorch 與 TensorFlow Lite 整合。
  • 針對使用 Conformer 網路進行語音辨識的特定實作方案。