software-mansion/react-native-executorch

React Native ExecuTorch – React Native 앱용 온디바이스 AI

이것이 무엇인가 – Meta의 ExecuTorch 런타임을 래핑한 React Native 라이브러리로, 모바일 앱이 기계 학습 모델을 휴대폰에서 직접 실행할 수 있게 합니다. 네트워크 호출이 필요 없으므로 추론이 오프라인으로 이루어지고 사용자 데이터가 기기를 떠나지 않습니다.

주요 기능

• 하드웨어 가속: XNNPACK(CPU), Apple Silicon에서 Core ML/MLX, Android GPU에서 Vulkan 사용.
• 2계층 API:
  1. useLLMChatSession, useImageClassification 등 기성 React 훅으로 일반적인 작업(LLM, 비전, 음성, 임베딩)을 자동 모델 다운로드, 캐싱, 수명 주기 관리와 함께 간단히 통합.
  2. 사용자 정의 파이프라인을 위한 텐서, 연산자, worklet 기반 스레드 관리를 제공하는 저수준 TypeScript API.
• 모델 카탈로그: 사전 내보낸 .pte 모델(비전, 언어, TTS, 음성 인식)을 Software Mansion의 Hugging Face 컬렉션에서 호스팅. 자체 내보낸 모델도 로드 가능.
• 완전한 오프라인 프라이버시 – 초기 모델 다운로드 후에는 클라우드 의존도 제로.

시작하기

1. 패키지와 네이티브 종속 라이브러리(react-native-worklets, react-native-blob-util)를 설치합니다.
2. 훅을 사용합니다(예: useLLMChatSession(models.llm.LFM2_5_1_2B.DEFAULT)), 그런 다음 session.sendMessage를 호출하여 텍스트를 생성합니다.
3. 이 라이브러리는 React Native 0.83+(또는 개발 빌드가 있는 Expo SDK 55+), New Architecture, iOS 17+/Android 13+, worklets Babel 플러그인이 필요합니다.

더 알아보기 – 전체 문서, 가이드, API 참조는 docs.swmansion.com/react-native-executorch에 있습니다. 데모 갤러리 앱에서 훅이 실제로 작동하는 모습을 볼 수 있습니다.

개발 배후 – Software Mansion이 개발. React Native 컨설팅의 오랜 전문 기업이며, 이 라이브러리를 사용하는 개인정보 보호 중심 모바일 AI 앱 Private Mind도 출시했습니다.

---

이 요약은 저장소의 README에만 기반합니다.