Tencent/ncnn
ncnn is a high-performance neural network inference framework optimized for the mobile platform
What it solves
ncnn은 모바일, 임베디드 시스템, PC 및 브라우저와 같이 리소스가 제한된 장치에서 딥러닝 모델을 더 쉽고 효율적으로 배포할 수 있도록 설계된 고성능 신경망 추론 프레임워크입니다.
How it works
서드파티 의존성이 없는 경량 런타임을 제공하여 CPU 및 Vulkan GPU 백엔드에서 실행할 수 있습니다. 모델을 프레임워크에 도입하기 위해서는 PyTorch 및 ONNX 형식을 ncnn 형식으로 변환하는 pnnx와 같은 도구를 포함하고 있습니다.
Who it's for
무거운 외부 런타임에 의존하지 않고 AI 모델을 에지 디바이스, 모바일 애플리케이션 또는 데스크톱 소프트웨어에 배포해야 하는 개발자.
Who it's for
무거운 외부 런타임에 의존하지 않고 AI 모델을 에지 디바이스, 모바일 애플리케이션 또는 데스크톱 소프트웨어에 배포해야 하는 개발자.
Highlights
- 모바일 및 임베디드 배포에 최적화된 고성능 추론.
- 서드파티 런타임 의존성이 없음.
- CPU 및 Vulkan GPU 백엔드를 모두 지원.
- PyTorch 및 ONNX로부터의 원활한 변환을 위한 pnnx를 포함.
- Android, iOS, Windows, macOS, Linux, WebAssembly, 및 HarmonyOS를 포함한 폭넓은 플랫폼 지원.