software-mansion-labs/react-native-rag

解決する課題

React Native RAG は、モバイルデバイス上で直接検索拡張生成（RAG）を実装するためのフレームワークを提供します。これにより、開発者はローカルナレッジベースでLLMを強化し、データと推論をデバイス上に保つことで、AI応答のプライバシーと効率性を確保できます。

仕組み

このライブラリは、LLM、Embeddings、VectorStore、TextSplitter の4つの主要インターフェースで構成されるモジュラーアーキテクチャで構築されています。開発者は、これらのコンポーネントを個別に使用するか、高レベルの useRAG フックまたは RAG クラスを介して一緒に使用してオーケストレーションできます。@react-native-rag/executorch プラグインによるオンデバイス推論と、SQLiteベースのストレージ用の @react-native-rag/op-sqlite を使用したローカルベクターストアの永続化をサポートしています。

対象読者

クラウドベースのLLMサービスに依存せずに、プライベートでローカルなAI機能とセマンティック検索をアプリケーションに統合したいReact Nativeを使用するモバイル開発者。

ハイライト

• オンデバイス推論: ExecuTorchを使用してモデルをローカルで実行し、プライバシーと速度を実現します。
• モジュラーデザイン: LLM、埋め込み、ベクターストアコンポーネントのカスタムバージョンを交換または実装できます。
• 永続化: SQLiteを介してベクターストアをローカルに保存および管理できます。
• 柔軟な統合: シンプルなセットアップのためのフックベースのアプローチと、高度な制御のためのクラスベースのアプローチを提供します。