Intellindust-AI-Lab/EdgeCrafter

解決的問題

EdgeCrafter 解決了在邊緣裝置上部署高效率視覺變換器（ViTs）的挑戰。它提供緊湊的模型，在維持高準確度的同時，適用於密集預測任務（如物件檢測、實例分割與姿態估計），且模型足夠小、足夠快，可實現實時邊緣部署。

工作原理

本專案利用任務專用蒸餾技術，建立一系列緊湊的 ViT 模型。提供多種模型尺寸（Small、Medium、Large 和 Extra-Large），以適應不同性能與延遲的權衡。這些模型針對多種硬體後端進行優化，包括 NVIDIA GPU（透過 TensorRT）、Intel iGPU/dGPU（透過 torch.xpu）與 CPU。

適用對象

適合需要在邊緣硬體上建構電腦視覺應用，並希望在高精度（AP）與低延遲之間取得平衡的 AI 研究人員與開發者。

主要亮點

• 多任務支援：專為物件檢測（ECDet）、實例分割（ECSeg）與姿態估計（ECPose）設計的模型。
• 硬體彈性：原生支援 CUDA、Intel XPU（iGPU/dGPU）與 CPU。
• 邊緣優化：專為低延遲設計，最小模型在 NVIDIA T4 上的推論速度低至 5.41ms。
• 廣泛整合：已整合至 Intel® Geti™、LightlyTrain 與 LibreYOLO 等工具中。