google-ai-edge/gallery

해결하는 문제

Google AI Edge Gallery는 고성능 오픈소스 대규모 언어 모델(LLM) 및 멀티모달 AI를 모바일 기기와 macOS에 직접 제공하도록 설계된 애플리케이션입니다. 클라우드 기반 AI의 필요성을 제거하여 사용자가 개인정보 보호, 속도, 접근성을 높이기 위해 모델을 완전히 오프라인으로 실행할 수 있습니다.

작동 방식

이 앱은 Google AI Edge API와 LiteRT 런타임을 활용하여 기기 내 실행을 최적화합니다. 모델 검색 및 다운로드를 위해 Hugging Face와 통합되어 사용자가 다양한 오픈소스 모델이나 자체 맞춤 모델을 로드할 수 있습니다.

대상 사용자

Android, iOS, macOS에서 기기 내 생성형 AI 기능을 경험, 평가, 테스트하려는 개발자 및 AI 애호가.

주요 기능

• Agent Skills: LLM에 Wikipedia 및 대화형 지도와 같은 도구를 추가하여 능동적인 어시스턴트로 만듭니다.
• AI Chat with Thinking Mode: 다중 턴 대화를 지원하며 Gemma 4와 같은 지원 모델에 대한 추론 과정 보기를 제공합니다.
• Instant Media Search & Video Moment Finder: EmbeddingGemma 2를 사용하여 사진 및 비디오의 기기 내 의미론적 검색을 수행합니다.
• Ask Image: 카메라나 갤러리를 통해 객체를 식별하고 시각적 퍼즐을 해결하기 위한 멀티모달 기능.
• Audio Scribe: 음성 녹음의 실시간 기기 내 전사 및 번역.
• Prompt Lab: 온도(temperature) 및 top-k와 같은 매개변수를 세밀하게 제어하여 프롬프트를 테스트할 수 있는 작업 공간.
• Mobile Actions & Tiny Garden: FunctionGemma 270m을 사용한 오프라인 기기 제어 및 자동화 작업을 시연합니다.
• Model Management & Benchmark: 특정 하드웨어에서 모델을 다운로드, 관리, 성능 벤치마크를 실행하는 도구.