Arm-Examples/ML-examples

What it solves

이 저장소는 개발자가 Arm 기반 하드웨어, 특히 신경망 처리 장치(NPU) 및 Cortex 기반 플랫폼에서 AI 모델을을 최적화하고 배포할 수 있도록 설계된 실용적인 머신러닝 예제 및 튜토리얼 모음입니다.

How it works

이 프로젝트는 Arm 하드웨어에서 ML 파이프라인의 다양한 측면을 보여주는 일련의 전문적인 예제를 구성합니다:

• Hardware Acceleration: Corstone-300 및 Corstone-1000 플랫폼의 Ethos-U NPU용 예제.
• Library Integration: KleidiAI 라이브러리 사용법 데모.
• Model Optimization: Ethos NPU의 모델 가중치 크기를 줄이기 위한 pruning 및 clustering 튜토리얼.
• Framework Integration: PyTorch/ExecuTorch를 사용하여 음성 인식을 위한 Conformer 네트워크를 학습시키고 Ethos-U로 내보내는 가이드.
• TensorFlow Lite Deployment: .tflite 형식 내보내기를 위한 RNN unrolling을 보여주는 Jupyter notebook.

Who it’s for

에지 AI 배포를 위해 Arm Cortex 및 Ethos NPU 하드웨어를 타겟팅하는 임베디드 시스템 개발자 및 ML 엔지니어.

Highlights

• Arm Ethos-U NPU 및 Corstone 레퍼런스 플랫폼 지원.
• pruning 및 clustering과 같은 모델 압축 기술 예제.
• PyTorch, ExecuTorch, 및 TensorFlow Lite 통합.
• Conformer 네트워크를 사용한 음성 인식용 특정 구현.