callstackincubator/ai

해결하는 문제

React Native AI는 데이터를 서버로 전송하지 않고 모바일 기기에서 직접 AI 모델을 실행하는 문제를 해결합니다. 이를 통해 사용자 데이터를 비공개로 유지하고, 지연 시간을 줄이며, 서버 비용을 절감할 수 있습니다. 또한 React Native 개발자가 generateText 및 streamText와 같은 익숙한 AI SDK 함수를 로컬 모델에서 쉽게 사용할 수 있도록 합니다.

작동 방식

이 프로젝트는 React Native를 위한 온디바이스 AI 프리미티브 세트를 제공하며, 다양한 하드웨어와 모델 유형을 처리하는 여러 공급자를 포함합니다. 일부 공급자(Apple, Google ADK)는 내장된 시스템 모델을 사용하므로 다운로드가 필요 없습니다. 다른 공급자(Llama, MLC)는 모델 파일을 다운로드해야 합니다. 모든 공급자는 Vercel AI SDK와 호환되는 공통 인터페이스를 노출하므로, 개발자는 로컬 모델이나 클라우드 모델 모두에서 작동하는 코드를 작성할 수 있습니다. 디버깅을 위해 AI SDK 원격 분석을 캡처하여 Rozenite DevTools에 표시하는 DevTools 플러그인이 포함되어 있습니다.

대상 사용자

데이터를 기기에 유지하면서 텍스트 생성, 임베딩, 전사, 음성 합성 또는 이미지 생성과 같은 AI 기능을 모바일 앱에 추가하려는 React Native 개발자를 위한 것입니다. 또한 Vercel AI SDK를 로컬 모델과 함께 사용하려는 개발자나, 컨텍스트가 제한된 모바일 기기에서 대규모 언어 모델을 실행해야 하는 개발자에게도 유용합니다. 이 프로젝트는 iOS와 Android를 지원하며, 각 플랫폼에 특화된 공급자를 제공합니다.

주요 특징

• 즉시 사용 가능 – Apple 및 Google ADK 공급자는 모델 다운로드가 필요 없으며, 기기에 내장된 시스템 모델을 사용합니다.
• 개인정보 우선 – 모든 추론은 기본적으로 기기에서 실행되며, 클라우드 모델은 선택 사항(Google ADK만 해당)입니다.
• Vercel AI SDK 호환 – generateText, streamText, embed, transcribe와 같은 표준 AI SDK 함수를 로컬 모델에서 사용할 수 있습니다.
• 다양한 공급자 – Apple Foundation Models, Core AI bundles, Google ADK (Gemini Nano), llama.rn을 통한 Llama, 또는 MLC LLM 중에서 선택할 수 있습니다.
• 텍스트 그 이상 – 임베딩, 전사, 음성 합성 및 이미지 생성(Core AI)을 지원합니다.
• JSON UI – @react-native-ai/json-ui 패키지를 사용하면 도구 호출 모델이 React Native UI를 동적으로 구축할 수 있습니다.
• DevTools 통합 – AI SDK Profiler가 AI 호출의 원격 분석 데이터를 Rozenite DevTools에 표시합니다.