mobile: 온디바이스 텍스트, 이미지 및 비전 생성을 위한 완전한 오프라인 AI 스위트

해결하는 문제

Off Grid는 클라우드 연결의 필요성을 없애고 데이터가 사용자의 하드웨어를 벗어나는 것을 방지하여, 기기 내에서 완전히 실행되는 완전하고 프라이빗한 AI 스위트를 제공합니다. 스마트폰이나 Mac을 텍스트, 이미지 및 비전 작업을 위한 독립적인 AI 워크스테이션으로 변환합니다.

작동 방식

이 앱은 네이티브 하드웨어 가속(Snapdragon의 NPU, iOS의 Core ML)과 llama.cpp 및 whisper.cpp와 같은 최적화된 라이브러리를 활용하여 모델을 로컬에서 실행합니다. 텍스트 생성을 위한 광범위한 GGUF 모델, 이미지 생성을 위한 Stable Diffusion, 그리고 비전 AI를 위한 SmolVLM/Qwen3-VL을 지원합니다. 또한 임베딩을 위한 번들형 MiniLM 모델과 로컬 저장을 위한 SQLite를 사용하는 온디바이스 RAG 시스템을 포함합니다.

대상 사용자

데이터 프라이버시를 우선시하는 사용자, 오프라인 환경에서 작업하는 사람, 그리고 모바일 기기나 Apple Silicon Mac에서 다양한 멀티모달 AI 모델을 실행하고자 하는 AI 애호가들을 위한 것입니다.

주요 특징

• 멀티모달 기능: 텍스트 생성, 이미지 생성, Stable Diffusion, 그리고 비전 AI를 하나의 앱에 결합했습니다.
• 온디바이스 RAG: PDF 및 텍스트 파일을 사용한 로컬 문서 분석 및 지식 베이스 검색.
• 도구 호출(Tool Calling): 웹 검색, 계산기, 기기 정보 제공을 위한 내장 도구와 자동 도구 루프.
• 온디바이스 음성: Whisper 기반의 음성-텍스트 변환(speech-to-text) 기능이 완전히 오프라인으로 수행됩니다.
• 유연한 모델 지원: Qwen, Llama, Gemma 모델뿐만 아니라 사용자 정의 .gguf 파일 및 원격 OpenAI-compatible 서버를 지원합니다.