software-mansion/react-native-executorch

React Native ExecuTorch – React Native 应用中的设备端 AI

这是什么 – 一个 React Native 库，包装了 Meta 的 ExecuTorch 运行时，让移动应用直接在手机上运行机器学习模型。无需网络调用，因此推理过程完全离线，用户数据不会离开设备。

主要功能

• 硬件加速：使用 XNNPACK（CPU）、Apple Silicon 上的 Core ML/MLX，以及 Android GPU 上的 Vulkan。
• 双层 API：
  1. 现成的 React hooks，如 useLLMChatSession、useImageClassification 等，用于常见任务（LLM、视觉、语音、嵌入），自动处理模型下载、缓存和生命周期管理。
  2. 低层 TypeScript API，提供张量、运算符和基于 worklet 的线程管理，用于自定义流水线。
• 模型目录：预导出的 .pte 模型（视觉、语言、TTS、转录）托管在 Software Mansion 的 Hugging Face 集合中；你也可以加载自己的导出模型。
• 完全离线隐私 – 初始模型下载后完全无云端依赖。

开始使用

1. 安装该包及其原生依赖库（react-native-worklets、react-native-blob-util）。
2. 使用一个 hook，例如 useLLMChatSession(models.llm.LFM2_5_1_2B.DEFAULT)，然后调用 session.sendMessage 生成文本。
3. 该库需要 React Native 0.83+（或带开发构建的 Expo SDK 55+）、New Architecture、iOS 17+/Android 13+，以及 worklets Babel 插件。

了解更多 – 完整文档、指南和 API 参考请访问 docs.swmansion.com/react-native-executorch。演示画廊应用展示了 hooks 的实际使用。

背后的开发团队 – 由 Software Mansion 开发，这是一家资深的 React Native 咨询公司，也使用此库推出了注重隐私的移动 AI 应用 Private Mind。

---

本摘要仅基于该仓库的 README。