ZantFoundation/Z-Ant

해결하는 문제

Z-Ant는 ARM Cortex-M 및 RISC-V와 같은 리소스 제약이 있는 마이크로컨트롤러(MCU)에 딥 뉴럴 네트워크를 배포하는 어려움을 해결합니다. 표준 AI 프레임워크는 동적 메모리와 런타임 형태 추론에 의존하는 경우가 많아, 매우 제한된 SRAM(일반적으로 512KB 미만)과 메모리 관리 유닛(MMU)이 없는 하드웨어에서는 바이너리가 비대해지고 성능이 예측 불가능해집니다.

작동 방식

Z-Ant는 추론 엔진과 컴파일러 프레임워크로, 무거운 작업을 런타임에서 컴파일 타임으로 이동시킵니다. 표준 ONNX 모델을 입력으로 받아 코드 생성 프로세스를 통해 그래프 스케줄링, 메모리 계획, 최적화를 해결합니다. 결과는 결정론적이고 정적 라이브러리로, 인터프리터 없이 바이너리 펌웨어에 직접 통합할 수 있는 Zig/C 코드입니다.

대상 사용자

엄격한 메모리 및 성능 제약이 있는 마이크로컨트롤러에서 신경망을 실행해야 하는 임베디드 시스템 엔지니어 및 TinyML 개발자에게 적합합니다.

주요 특징

• 정적 배포: 의존성 없이 단일 정적 라이브러리로 출력되어 통합이 간편합니다.
• ONNX 네이티브: 30개 이상의 연산자를 지원하며, ONNX 모델에서 직접 배포 가능합니다.
• 하드웨어 최적화: ARM Cortex-M, RISC-V, x86를 타겟으로 하며, CMSIS-NN 및 Arm Ethos-U 드라이버를 지원합니다.
• 통합 전처리: 내장된 JPEG 디코딩과 TensorToImage 모듈을 통해 1차원 시계열 데이터(예: ECG 신호)를 CNN 분류용 이미지로 인코딩할 수 있습니다.
• 효율성 도구: 양자화, 절단, 메모리 효율 최적화 기능을 제공합니다.