ZantFoundation/Z-Ant

何を解決するか

Z-Antは、ARM Cortex-MやRISC-Vなどのリソース制約のあるマイコン（MCU）にディープニューラルネットワークをデプロイする難しさに対処します。標準的なAIフレームワークは動的メモリやランタイムでの形状推論に依存しており、非常に限られたSRAM（通常512KB未満）とメモリ管理ユニット（MMU）のないハードウェアでは、バイナリが肥大化し、パフォーマンスが予測不能になります。

仕組み

Z-Antは、推論エンジンおよびコンパイラフレームワークであり、重い処理を実行時からコンパイル時へと移行します。標準的なONNXモデルを入力として受け取り、コード生成プロセスによりグラフスケジューリング、メモリ計画、最適化を解決します。その結果、確定的で静的ライブラリとしてのZig/Cコードが生成され、インタプリタを必要とせずに、バーメタルファームウェアに直接統合できます。

対象ユーザー

メモリとパフォーマンス制約が厳しいマイコン上でニューラルネットワークを実行したい、組み込みシステムエンジニアおよびTinyML開発者向けに設計されています。

特徴

• 静的デプロイ: 依存関係ゼロの単一静的ライブラリを出力し、統合が容易です。
• ONNXネイティブ: 30以上の演算子をサポートするONNXモデルからの直接デプロイを可能にします。
• ハードウェア最適化: ARM Cortex-M、RISC-V、x86をターゲットとし、CMSIS-NNおよびArm Ethos-Uドライバをサポートしています。
• 統合された前処理: 内蔵のJPEGデコード機能とTensorToImageモジュールを備え、1次元時系列データ（例：ECG信号）をCNN分類用の画像にエンコードできます。
• 効率化ツール: 量子化、剪定、メモリ効率最適化を備えています。