ARM-software/ComputeLibrary

The Compute Library is a set of computer vision and machine learning functions optimised for both Arm CPUs and GPUs using SIMD technologies.

What it solves

Compute Library 提供一套專為 Arm 硬體優化的低階機器學習函式。透過微架構最佳化與即時支援新興的 Arm 技術（如 SVE2），它旨在相較其他開源方案提供更佳的效能。

How it works

此函式庫實作超過 100 種 ML 基元，包含多種卷積演算法（如 GeMM、Winograd、FFT 與 Direct），並支援廣泛的資料型別（FP32、FP16、INT8、UINT8、BFLOAT16）。它使用核心融合、快速數學與紋理利用等先進最佳化技術，並可透過 OpenCL 調校器與 GeMM 最佳化啟發式方法進行裝置特定調校。

Who it’s for

適用於開發針對 Arm 系統之 AI/ML 應用的開發者，包含使用 Cortex-A、Neoverse 與 Mali GPU 的平台，支援 Android、Linux、macOS 等多種作業系統。

Highlights

  • 依 MIT 授權的自有原始碼軟體。
  • 為 Arm Cortex-A、Neoverse 與 Mali GPU 進行最佳化。
  • 支援多種精度資料型別，包括 BFLOAT16 與 INT8。
  • 可高度配置的建置選項，產出輕量化二進位檔。