Samsung/ONE
On-device Neural Engine
해결하는 문제
클라우드 기반 처리를 피하기 위해 디바이스에서 직접 신경망 추론을 실행할 수 있는 고성능 프레임워크를 제공합니다. 리눅스 기반 운영체제에서 CPU, GPU, DSP, NPU와 같은 다양한 하드웨어 가속기에서 AI 모델을 실행하는 문제를 해결합니다.
작동 방식
ONE은 TensorFlow 또는 PyTorch와 같은 프레임워크에서 훈련된 신경망 모델을 통일된 형식으로 변환하는 컴파일러 도구 체인을 사용합니다. 이 통일된 형식은 Ubuntu, Android, Tizen과 같은 플랫폼에서 다양한 하드웨어 백엔드를 지원하는 전용 런타임에서 실행됩니다.
대상 사용자
디바이스 내 하드웨어에 AI 모델을 배포하고 다양한 프로세서 간 성능을 최적화해야 하는 개발자들을 위한 것입니다.
주요 특징
- 고성능 디바이스 내 추론.
- 여러 하드웨어 가속기(CPU, GPU, DSP, NPU) 지원.
- 리눅스 커널 기반 OS 플랫폼(Ubuntu, Tizen, Android) 지원.
- TensorFlow 및 PyTorch에서 온 모델용 통일된 런타임.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트