Ollama에서의 Google Gemma 2 출시

요약 (TL;DR)

Google Gemma 2는 이제 Ollama에서 세 가지 크기(2B, 9B, 27B)로 사용할 수 있으며, 클래스 리딩 성능을 제공하는 새로운 아키텍처를 사용하여 27B 모델이 자신의 크기보다 두 배 이상 큰 오픈 모델보다 더 뛰어난 성능을 발휘합니다.

Gemma 2는 파라미터당 높은 성능을 위해 특별히 설계된 완전히 새로운 모델 아키텍처를 도입합니다. 27B 변체는 50B 이상의 파라미터를 가진 모델을 능가하는 벤치마크 결과를 달성하여, 오픈 소스 대규모 언어 모델의 새로운 효율성 기준을 세웁니다.

Ollama는 세 가지 파라미터 구성을 출시합니다:

Gemma 2 2B – 가장 작은 풋프린트, 저사양 환경에 적합합니다. 명령어: ollama run gemma2:2b.
Gemma 2 9B – 성능과 비용의 중간 균형을 맞춘 모델입니다. 명령어: ollama run gemma2.
Gemma 2 27B – 가장 큰 모델로, 더 큰 경쟁 모델보다 효율적이면서도 최고 품질을 제공합니다. 명령어: ollama run gemma2:27b.

세 모델 모두 Ollama 라이브러리에 호스팅되어 있으며 단일 CLI 명령어로 가져올 수 있습니다.

Gemma 2는 일반적인 LLM 래퍼를 통해 Python에서 직접 사용할 수 있습니다.

from langchain_community.llms import Ollama
llm = Ollama(model="gemma2")
llm.invoke("Why is the sky blue?")

from llama_index.llms.ollama import Ollama
llm = Ollama(model="gemma2")
llm.complete("Why is the sky blue?")

이 코드 스니펫들은 개발자들이 기존 LangChain 또는 LlamaIndex 파이프라인을 활용하여 최소한의 코드 변경만으로 Gemma 2를 교체하여 사용할 수 있음을 보여줍니다.

Gemma 2는 Ollama를 통해 배포됩니다; 다운로드 링크 및 자세한 내용은 공식 블로그 게시물을 참조하세요.