Intellindust-AI-Lab/EdgeCrafter

해결하는 문제

EdgeCrafter는 엣지 장치에 고성능 비전 트랜스포머(ViT)를 배포하는 도전 과제를 해결합니다. 고정밀 밀도 예측 작업(예: 객체 탐지, 인스턴스 세그멘테이션, 자세 추정)을 유지하면서도 실시간 엣지 배포에 적합한 작고 빠른 모델을 제공합니다.

작동 방식

이 프로젝트는 태스크 특화된 디스틸레이션을 사용하여 일련의 컴팩트한 ViT를 생성합니다. 성능-지연 간의 트레이드오프에 따라 다양한 모델 크기(Small, Medium, Large, Extra-Large)를 제공합니다. 이러한 모델은 NVIDIA GPU(TensorRT를 통해), Intel iGPU/dGPU(torch.xpu를 통해), CPU 등 다양한 하드웨어 백엔드에서 효율적으로 작동하도록 설계되었습니다.

대상 사용자

엣지 하드웨어용 컴퓨터 비전 애플리케이션을 개발하면서 높은 정밀도(AP)와 낮은 지연 시간 사이의 균형을 원하는 AI 연구자 및 개발자에게 적합합니다.

주요 특징

• 다중 태스크 지원: 객체 탐지(ECDet), 인스턴스 세그멘테이션(ECSeg), 자세 추정(ECPose)을 위한 전용 모델.
• 하드웨어 유연성: CUDA, Intel XPU(iGPU/dGPU), CPU를 네이티브로 지원.
• 엣지 최적화: 낮은 지연 시간 설계로, 최소 모델은 NVIDIA T4에서 추론 속도가 최소 5.41ms까지 가능.
• 광범위한 통합: Intel® Geti™, LightlyTrain, LibreYOLO 등 다양한 도구에 통합됨.