PINTO_model_zoo: 엣지 디바이스에서의 교차 프레임워크 배포를 위한 사전 변환 및 사전 양자화된 모델 모음

해결하는 문제

PINTO_model_zoo는 사전 변환 및 사전 양자화된 AI 모델의 중앙 집중식 컬렉션을 제공합니다. 이는 다양한 딥러닝 프레임워크 간에 모델을 수동으로 변환하고 엣지 디바이스(Raspberry Pi 또는 EdgeTPU와 같은)를 위해 최적화하는 데 따르는 어려움을 해결하기 위해, 인기 있는 모델의 즉시 사용 가능한 버전을 여러 형식으로 제공합니다.

작동 방식

이 프로젝트는 다양한 프레임워크 간에 상호 변환된 모델의 "zoo"를 유지 관리합니다. TensorFlow, PyTorch, ONNX, OpenVINO, TFJS, TFTRT, TensorFlow Lite (Float32, Float16, 및 INT8), EdgeTPU, 그리고 CoreML을 포함한 광범위한 형식을 지원합니다. 이 저장소에는 이미지 분류, 2D 객체 탐지 및 기타 비전 작업에 대한 모델이 포함되어 있으며, 성능과 정확도의 균형을을 맞추기 위해 종종 여러 양자화 수준(Weight, Integer, Full Integer, 및 Dynamic Range)을 제공합니다.

대상 사용자

복잡한 변환 및 양자화 과정을 직접 수행할 필요 없이 특정 형식의 최적화된 모델이 필요한 엣지 AI 및 모바일 배포 작업을 수행하는 개발자와 연구자.

주요 특징

• 광범위한 프레임워크 지원: 거의 모든 주요 AI 프레임워크 및 배포 형식(TFLite, ONNX, CoreML, OpenVINO, 등)을 지원합니다.
• 방대한 모델 라이브러리: 이미지 분류 및 객체 탐지를 위한 방대한 양의 사전 양자화된 모델을 포함합니다.
• 엣지 최적화: Raspberry Pi 4/3 및 EdgeTPU와 같은 하드웨어에서의 성능을 구체적으로 타겟팅합니다.
• 양자화 다양성: 다양한 하드웨어 제약 조건에 맞게 FP32, FP16, INT8, 및 Dynamic Range 양자화를 제공합니다.