Ollama での Google Gemma 2 リリース

TL;DR

Google Gemma 2 が Ollama で 3 つのサイズ(2 B, 9 B, 27 B)で利用可能になりました。新しいアーキテクチャを採用しており、クラス最高のパフォーマンスを実現し、27 B モデルは自身の 2 倍以上のサイズのオープンモデルを凌駕します。

新しいアーキテクチャと効率性の向上

Gemma 2 は、パラメータあたりの高いパフォーマンスを実現するために特別に設計された、全く新しいモデルアーキテクチャを導入しています。27 B バリアントは、50 B を超えるパラメータを持つモデルを上回るベンチマーク結果を達成し、オープンソースの大規模言語モデルの新しい効率性の基準を確立しました。

モデルのサイズとアクセス方法

Ollama は 3 つのパラメータ構成をリリースします:

  • Gemma 2 2B – 最も小さなフットプリントで、リソースの少ない環境に適しています。コマンド: ollama run gemma2:2b
  • Gemma 2 9B – 能力とコストのバランスが取れたミドルレンジ。 コマンド: ollama run gemma2
  • Gemma 2 27B – 最大のラインナップで、より大きな競合モデルよりも効率的なまま、最高品質を提供します。コマンド: ollama run gemma2:27b

3 つすべてのモデルは Ollama のライブラリにホストされており、単一の CLI コマンドでプルできます。

一般的なツールとの統合

Gemma 2 は、一般的な LLM ラッパーを介して Python から直接使用できます。

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="gemma2")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="gemma2")
llm.complete("Why is the sky blue?")

これらのスニペットは、開発者が既存の LangChain または LlamaIndex のパイプラインを活用して、最小限のコード変更で Gemma 2 に入れ替えられることを示しています。


Gemma 2 は Ollama を通じて配布されます。ダウンロードリンクや詳細は公式ブログ投稿を参照してください。

Sources

関連

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch