Gemma 4 릴리스 노트: 추론 및 에이전트를 위한 고지능 오픈 모델

모델 변형 및 성능

Gemma 4는 원시 지능과 하드웨어 효율성을 균형 있게 맞추기 위해 네 가지 서로 다른 크기로 출시됩니다:

  • 31B Dense: 최대 품질을 위해 설계되었으며 파인튜닝의 기반으로 사용됩니다. 현재 Arena AI 텍스트 리더보드에서 전 세계 #3 오픈 모델로 순위에 올랐습니다.
  • 26B Mixture of Experts (MoE): 낮은 지연 시간을 위해 최적화되었으며 추론 시 38억 개의 파라미터만 활성화됩니다. Arena AI 텍스트 리더보드에서 #6 순위에 있습니다.
  • Effective 4B (E4B): 멀티모달 기능과 낮은 지연 처리에 중점을 둔 엣지 최적화 모델로, 모바일 및 IoT 디바이스에 적합합니다.
  • Effective 2B (E2B): 휴대폰 및 Raspberry Pi와 같은 디바이스에서 최소 RAM 및 배터리 소비를 목표로 설계된 고효율 엣지 모델입니다.

핵심 기술 역량

Gemma 4는 복잡한 AI 애플리케이션을 지원하기 위해 여러 아키텍처 및 기능 개선을 도입했습니다.

고급 추론 및 에이전시 워크플로

이 모델들은 다단계 계획 및 심층 논리를 수행할 수 있으며, 수학 및 지시 수행 벤치마크에서 큰 향상을 보입니다. 자율 에이전트를 지원하기 위해 Gemma 4는 함수 호출, 구조화된 JSON 출력, 그리고 네이티브 시스템 지시를 기본적으로 지원합니다.

멀티모달 처리

모든 Gemma 4 모델은 비디오와 이미지를 기본적으로 처리하며, 가변 해상도와 OCR 및 차트 이해와 같은 작업을 지원합니다. E2B와 E4B 엣지 모델은 음성 인식 및 이해를 위한 네이티브 오디오 입력도 포함합니다.

컨텍스트 윈도우 및 언어 지원

대형 26B 및 31B 모델은 최대 256K 토큰의 컨텍스트 윈도우를 제공하고, 엣지 모델(E2B 및 E4B)은 128K 컨텍스트 윈도우를 특징으로 합니다. 이 패밀리는 140개 이상의 언어에 대해 네이티브로 학습되었습니다.

코드 생성

Gemma 4는 고품질 오프라인 코드 생성을 지원하여 로컬 우선 AI 코딩 어시스턴트를 가능하게 합니다.

하드웨어 최적화 및 배포

개인용 컴퓨터 및 워크스테이션

26B 및 31B 모델의 비양자화 bfloat16 가중치는 단일 80GB NVIDIA H100 GPU에 들어갑니다. 양자화된 버전은 소비자용 GPU에서 로컬 IDE와 에이전시 워크플로를 지원하도록 제공됩니다.

모바일 및 IoT 엣지 디바이스

E2B와 E4B 모델은 Android 디바이스, Raspberry Pi, 그리고 NVIDIA Jetson Orin Nano에서 거의 지연이 없는 오프라인 실행을 위해 최대 메모리 효율성을 목표로 설계되었습니다. Android 개발자는 Gemini Nano 4와 호환성을 위해 AICore Developer Preview를 통해 이러한 흐름을 프로토타이핑할 수 있습니다.

라이선스 및 생태계

Apache 2.0 라이선스

Gemma 4는 상업적으로 허용적인 Apache 2.0 라이선스 하에 출시되어 개발자에게 데이터, 인프라 및 모델에 대한 완전한 제어권을 제공합니다.

통합 및 도구

Gemma 4는 다양한 플랫폼 및 도구에서 첫날부터 지원됩니다, 포함:

  • Model Hubs: Hugging Face, Kaggle, and Ollama.
  • Frameworks: Transformers, TRL, vLLM, llama.cpp, MLX, and Keras.
  • Deployment: Google AI Studio, Vertex AI, Cloud Run, GKE, and NVIDIA NIM.
  • Hardware: NVIDIA (Jetson Orin Nano to Blackwell GPUs), AMD (via ROCm stack), and Google TPUs (Trillium and Ironwood).

"Gemma 4를 Apache 2.0 라이선스로 출시한 것은 큰 이정표입니다. 우리는 첫날부터 Hugging Face에서 Gemma 4 패밀리를 지원하게 되어 매우 기쁩니다."

— Clément Delangue, 공동 설립자 겸 CEO, Hugging Face

Sources