margelo/react-native-fast-tflite

何を解決するか

react-native-fast-tflite は、React Native開発者がモバイルデバイス上でTensorFlow Lite (.tflite) モデルを実行できる高パフォーマンスなライブラリです。JavaScriptと低レベルのC/C++ TensorFlow LiteコアAPIの間のギャップを埋め、従来のReact Nativeブリッジのオーバーヘッドなしに、効率的なデバイス内AI推論を可能にします。

動作方法

このライブラリはNitro Modulesを使用してゼロコピーArrayBufferを実現しており、ネイティブ側とJavaScript間でデータを高コストなコピーなしに渡すことができます。TensorFlow LiteコアAPIに直接アクセスし、直接メモリアクセスを実現しています。モデルはアプリバンドル、ローカルファイル、またはリモートURLから読み込むことができ、実行時にもモデルを切り替えることができます。

対象ユーザー

iOSおよびAndroidで、画像分類、オブジェクト検出、またはその他のテンソルベースの予測に機械学習モデルを統合したいReact Nativeを使用するモバイル開発者。

特徴

• 高パフォーマンス: ゼロコピーデータ転送のため、Nitro Modulesで駆動。
• GPUアクセラレーション: CoreML (iOS)、Metal、OpenGL、Android GPU/NNAPIを含むGPUアクセラレーテッドデリゲートをサポート。
• 柔軟なモデル読み込み: require、ローカルURI、またはリモートURL経由でモデルを読み込み可能。
• VisionCamera統合: react-native-vision-cameraとの簡単な統合を想定しており、リアルタイムAIビジョンタスクに最適。