software-mansion/react-native-executorch

What it solves

React Native 開発者が iOS と Android のモバイルデバイス上で AI モデルをローカルに実行できるようにし、ネイティブプログラミングや機械学習の深い専門知識を必要としません。これにより、クラウド API に依存せず、プライバシー重視のオンデバイス AI アプリケーションを作成できます。

How it works

このライブラリは React Native と ExecuTorch（Meta がデバイス上での AI 実行のために設計したフレームワーク）間のブリッジとして機能します。宣言的 API とフック（useLLM など）を提供し、.pte 形式でエクスポートされたモデルの初期化と実行を行います。また、モバイルプラットフォーム上のモデルファイルを扱うためのリソース取得もサポートしています。

Who it’s for

React Native（特に New Architecture）を使用するモバイルアプリ開発者で、ローカル LLM、コンピュータビジョン、音声モデルをアプリに統合したい方。

Highlights

• Broad Model Support: LLM、コンピュータビジョン、音声→テキスト/テキスト→音声モデルをすぐに利用可能。
• Declarative API: 使いやすいフックとチャット用の構造化メッセージ形式でモデル実行をシンプルに。
• On-Device Execution: ExecuTorch による、モバイルフォンやマイクロコントローラ上での効率的なパフォーマンス。
• Ready-made Models: すぐに始められるように事前構成されたモデルセットを提供。