EmbeddingGemma 2 릴리스 노트

Google DeepMind는 텍스트, 이미지, 오디오, 비디오를 통합된 임베딩 공간으로 매핑하는 가벼운 멀티모달 임베딩 모델인 EmbeddingGemma 2를 출시했습니다. 이 모델은 특히 디바이스 내에서의 추론을 위해 설계되어, 소비자 하드웨어에서 개인정보 보호 중심의 검색 증강 생성(RAG) 및 크로스모달 의미 검색을 가능하게 합니다.

기술 아키텍처 및 효율성

EmbeddingGemma 2는 Gemma 4 아키텍처를 기반으로 하며 Apache 2.0 라이선스 하에 공개됩니다. 전체 구성에서 7억 4천만 파라미터를 포함하지만, 작업 부하에 따라 자원 소비를 최적화하기 위해 모듈식 설계를 채택하고 있습니다:

• 모듈식 파라미터 분배: 텍스트 전용 작업에는 단지 2억 7천만 파라미터만 필요합니다. 추가로 선택적인 비전 인코더(1억 7천만 파라미터)와 오디오 인코더(3억 파라미터)를 추가함으로써 전체 멀티모달 지원이 가능합니다.
• MRL을 통한 저장소 최적화: 모델은 마트료시카 표현 학습(MRL)을 활용하여 출력 벡터를 768차원에서 512, 256, 또는 128차원으로 자르는 것이 가능합니다. 이는 메모리 사용량과 로컬 벡터 데이터베이스 저장소에서 최대 6배의 감소를 초래할 수 있습니다.
• 디바이스 내 메모리 사용량: Google Pixel 11 Pro에서 양자화하여 실행할 경우, 텍스트 전용 가중치는 약 191MB의 활성 RAM을 필요로 하며, 전체 멀티모달 모델은 567MB가 필요합니다.

기능 및 성능

EmbeddingGemma 2는 여러 모달리티를 위한 통합된 임베딩 공간을 제공하여, 사용자가 텍스트 쿼리로 오디오 녹음을 검색하거나 음성 메모에서 특정 비디오 클립을 찾는 등의 작업을 수행할 수 있습니다.

벤치마크 및 품질

EmbeddingGemma 2는 10억 파라미터 미만의 멀티모달 임베딩 모델 중 최고의 성능을 기록합니다. 주요 성능 지표는 다음과 같습니다:

• 코드 성능: MTEB Code 벤치마크에서 9.92점의 향상률을 보이며, EmbeddingGemma 1의 68.76점에서 78.68점으로 상승했습니다.
• 일반 성능: 텍스트, 비전, 오디오 작업 전반에서 더 큰 모델들과 견줄 만한 성능을 보이며, 10억 파라미터 미만 모델 중에서 파라미터당 품질 기준을 새롭게 설정했습니다.

컨텍스트 창

모델은 8K 토큰 컨텍스트 창을 갖추고 있으며, EmbeddingGemma의 첫 번째 버전보다 4배 더 큽니다. 확장된 창을 통해 로컬 하드웨어에서 다음을 직접 처리할 수 있습니다:

• 최대 5.5분의 오디오
• 최대 29개의 이미지
• 최대 58개의 비디오 프레임
• 위의 모달리티를 혼합한 조합

통합 및 배포

EmbeddingGemma 2는 Gemma 4와 동일한 텍스트 토크나이저와 오디오 인코더를 공유하므로, Gemma 4 생성 모델과 통합된 파이프라인으로 구성하여 디바이스 내 RAG의 전체 메모리 사용량을 줄일 수 있습니다.

배포 도구

EmbeddingGemma 2는 여러 플랫폼과 프레임워크에서 지원됩니다:

• 모델 가중치: Hugging Face와 Kaggle에서 이용 가능
• 디바이스 내 프레임워크: Google AI Edge MediaPipe 및 LiteRT
• 웹 배포: transformers.js 및 WebGPU
• 서빙 스택: transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama, LMStudio
• 벡터 저장소: Qdrant
• 피니튜닝: Unsloth를 통해 안내 제공