ARM-software/ComputeLibrary

The Compute Library is a set of computer vision and machine learning functions optimised for both Arm CPUs and GPUs using SIMD technologies.

What it solves

Compute Library는 Arm 하드웨어에 특화되어 최적화된 저수준 머신러닝 함수 컬렉션을 제공합니다. 마이크로아키텍처 최적화와 SVE2와 같은 최신 Arm 기술에 대한 즉각적인 지원을 활용하여 다른 오픈소스 대안에 비해 뛰어난 성능을 목표로 합니다.

How it works

이 라이브러리는 100개가 넘는 ML 프리미티브를 구현하며, GeMM, Winograd, FFT, Direct 등 다양한 컨볼루션 알고리즘을 포함하고 FP32, FP16, INT8, UINT8, BFLOAT16 등 폭넓은 데이터 타입을 지원합니다. 커널 융합, 고속 수학, 텍스처 활용 등 고급 최적화 기법을 사용하고 OpenCL 튜너와 GeMM 최적화 휴리스틱을 통해 디바이스별 튜닝이 가능합니다.

Who it’s for

Cortex-A, Neoverse, Mali GPU를 사용하는 Arm 기반 시스템용 AI/ML 애플리케이션을 개발하는 개발자를 위한 것입니다. Android, Linux, macOS 등 다양한 운영체제를 지원합니다.

Highlights

  • MIT 라이선스 하에 제공되는 자체 소스 소프트웨어.
  • Arm Cortex-A, Neoverse, Mali GPU에 최적화.
  • BFLOAT16 및 INT8을 포함한 다중 정밀도 데이터 타입 지원.
  • 경량 바이너리를 생성할 수 있는 고도로 구성 가능한 빌드 옵션.