margelo/react-native-fast-tflite

해결하는 문제

react-native-fast-tflite는 React Native 개발자가 모바일 기기에서 TensorFlow Lite (.tflite) 모델을 실행할 수 있도록 해주는 고성능 라이브러리입니다. JavaScript와 저수준 C/C++ TensorFlow Lite 커널 API 사이의 격차를 메우며, 전통적인 React Native 브리지의 오버헤드 없이 효율적인 디바이스 내 AI 추론을 가능하게 합니다.

작동 방식

이 라이브러리는 Nitro Modules를 사용하여 제로 코피 ArrayBuffers를 구현하여, 네이티브 측과 JavaScript 간에 데이터를 비용이 큰 복사 없이 전달할 수 있습니다. TensorFlow Lite 커널 API에 직접 접근하여 직접 메모리 접근을 가능하게 합니다. 모델은 앱 번들, 로컬 파일, 또는 원격 URL에서 로드할 수 있으며, 런타임 중에도 모델을 교체할 수 있습니다.

대상 사용자

iOS 및 안드로이드에서 이미지 분류, 객체 탐지, 또는 기타 텐서 기반 예측 작업을 위해 머신러닝 모델을 통합해야 하는 React Native 사용자.

주요 특징

• 고성능: 제로 코피 데이터 전송을 위한 Nitro Modules 기반.
• GPU 가속: CoreML (iOS), Metal, OpenGL, Android GPU/NNAPI를 포함한 GPU 가속 딜리게이트 지원.
• 유연한 모델 로딩: require, 로컬 URI, 또는 원격 URL을 통해 모델 로드 가능.
• VisionCamera 통합: react-native-vision-camera와의 간편한 통합을 위해 설계되어 실시간 AI 비전 작업에 적합.