ARM-software/ComputeLibrary

The Compute Library is a set of computer vision and machine learning functions optimised for both Arm CPUs and GPUs using SIMD technologies.

What it solves

Compute Library は Arm ハードウェア向けに特化して最適化された低レベル機械学習関数のコレクションを提供します。マイクロアーキテクチャ最適化や SVE2 などの新しい Arm テクノロジーへの即時サポートを活用し、他のオープンソース代替品と比較して優れたパフォーマンスを実現することを目指しています。

How it works

このライブラリは 100 以上の ML プリミティブを実装しており、GeMM、Winograd、FFT、Direct など複数の畳み込みアルゴリズムを含み、FP32、FP16、INT8、UINT8、BFLOAT16 といった幅広いデータ型をサポートします。カーネル融合、ファストマス、テクスチャ活用といった高度な最適化手法を使用し、OpenCL チューナーや GeMM 最適化ヒューリスティックを通じてデバイス固有のチューニングが可能です。

Who it’s for

Cortex-A、Neoverse、Mali GPU を搭載した Arm ベースのシステム向けに AI/ML アプリケーションを構築する開発者向けです。Android、Linux、macOS など様々な OS を対象としています。

Highlights

  • MIT ライセンスの下で提供される自社ソースソフトウェア。
  • Arm Cortex-A、Neoverse、Mali GPU 向けに最適化。
  • BFLOAT16 や INT8 を含む複数の精度データ型をサポート。
  • 軽量バイナリを生成できる高度に構成可能なビルドオプション。