ARM-software/ComputeLibrary

The Compute Library is a set of computer vision and machine learning functions optimised for both Arm CPUs and GPUs using SIMD technologies.

What it solves

Compute Library 提供一套专为 Arm 硬件优化的低层机器学习函数。通过微架构优化与即时支持新兴的 Arm 技术（如 SVE2），它旨在相较其他开源方案提供更佳的性能。

How it works

此库实现超过 100 种 ML 原语，包含多种卷积算法（如 GeMM、Winograd、FFT 与 Direct），并支持广泛的数据类型（FP32、FP16、INT8、UINT8、BFLOAT16）。它使用内核融合、快速数学与纹理利用等先进优化技术，并可通过 OpenCL 调谐器与 GeMM 优化启发式方法进行设备特定调优。

Who it’s for

适用于开发针对 Arm 系统的 AI/ML 应用的开发者，包括使用 Cortex-A、Neoverse 与 Mali GPU 的平台，支持 Android、Linux、macOS 等多种操作系统。

Highlights

  • 依据 MIT 许可证的自有源码软件。
  • 为 Arm Cortex-A、Neoverse 与 Mali GPU 进行优化。
  • 支持多种精度数据类型，包括 BFLOAT16 与 INT8。
  • 可高度配置的构建选项，生成轻量化二进制文件。