software-mansion/react-native-executorch

High-performance, privacy-first on-device AI inference library for React Native, powered by PyTorch's ExecuTorch runtime

React Native ExecuTorch – React Native アプリ向けオンデバイスAI

これは何か – Meta の ExecuTorch ランタイムをラップした React Native ライブラリで、モバイルアプリが機械学習モデルをスマートフォン上で直接実行できるようにします。ネットワーク呼び出しは不要なので、推論はオフラインで行われ、ユーザーデータがデバイスから送信されることはありません。

主要機能

  • ハードウェアアクセラレーション: XNNPACK(CPU)、Apple Silicon 向け Core ML/MLX、Android GPU 向け Vulkan を使用。
  • 2層構造のAPI:
    1. useLLMChatSession、useImageClassification などの既製の React フックで、一般的なタスク(LLM、ビジョン、音声、埋め込み)を自動モデルダウンロード、キャッシュ、ライフサイクル管理付きでシンプルに統合。
    2. カスタムパイプライン用にテンソル、オペレーター、worklet ベースのスレッド管理を提供する低レベル TypeScript API。
  • モデルカタログ: 事前エクスポートされた .pte モデル(ビジョン、言語、TTS、文字起こし)を Software Mansion の Hugging Face コレクションでホスト。独自エクスポートモデルの読み込みも可能。
  • 完全オフラインプライバシー – 初期モデルダウンロード後はクラウド依存ゼロ。

はじめに

  1. パッケージとネイティブの依存ライブラリ(react-native-worklets、react-native-blob-util)をインストール。
  2. フックを使用(例: useLLMChatSession(models.llm.LFM2_5_1_2B.DEFAULT))、その後 session.sendMessage を呼び出してテキストを生成。
  3. ライブラリには React Native 0.83+(または開発ビルド付き Expo SDK 55+)、New Architecture、iOS 17+/Android 13+、worklets Babel プラグインが必要。

詳細情報 – 完全なドキュメント、ガイド、API リファレンスは docs.swmansion.com/react-native-executorch。デモギャラリーアプリでフックの動作を確認。

開発元 – Software Mansion が開発。React Native コンサルティングの老舗であり、このライブラリを使用したプライバシー重視のモバイル AI アプリ Private Mind もリリース。


この概要はリポジトリの README のみに基づいています。

関連

  • プロジェクト
  • プロジェクト
  • Dispatch
  • プロジェクト
  • プロジェクト