Ollama 0.30 リリース：GGUF モデルのサポート追加と NVIDIA パフォーマンスの最大 20% 向上

TL;DR

Ollama 0.30 では、llama.cpp を使用したネイティブな GGUF モデルのサポートが追加され、NVIDIA GPU のスループットが最大 20% 向上しました。また、Vulkan がデフォルトで有効になり、AMD や Intel のハードウェアにも GPU 加速を拡大しています。

NVIDIA スループットの高速化

NVIDIA と llama.cpp チームによる最適化のおかげで、Ollama 0.30 は NVIDIA GPU 上でのパフォーマンスを最大 20% 向上させました。示されているベンチマークは、RTX 5090 上で Q4_K_M に量子化された Gemma 4 26B モデルを使用しており、より高いトークン/秒のレートを示しています。

NVIDIA RTX 5090 上で Q4_K_M 量子化を使用して Gemma 4 26B モデルを実行してテスト済み。

幅広い GPU 互換性のためのデフォルトの Vulkan

Ollama では Vulkan がデフォルトで有効になり、Apple silicon を超えて AMD や Intel デバイスにも GPU 加速が拡張されました。ユーザーはベンダー固有のライブラリをインストールする必要がなくなり、Vulkan 互換の GPU であればすぐにモデルを実行できます。

GGUF によるモデル互換性の拡大

Ollama 0.30 は llama.cpp を通じて GGUF エコシステムを統合し、カスタムの変換ステップなしで、より広範なモデルセットを実行できるようにしました。サポートされているファミリーは以下の通りです：

LFM (例：LiquidAI/LFM2-8B-A1B-GGUF)
Prism (例：prism-ml/Bonsai-8B-gguf)
Unsloth によるファインチューニング済みモデル

Hugging Face から GGUF モデルを実行する方法

GGUF ファイルまたはディレクトリをダウンロードします。
GGUF パスを指す Modelfile を作成します：
```
FROM ./my-model.Q4_K_M.gguf
```

Ollama でモデルをビルドして実行します：

ollama create -f Modelfile my-model
ollama run my-model

ツール呼び出し機能の維持

GGUF モデルに tools 機能が含まれている場合、Ollama はツール呼び出しのサポートを維持し、コーディングエージェントやパーソナルアシスタントとのシームレスな使用を可能にします。

起動コマンドの例

Claude Code: ollama launch claude --model my-model
Hermes Agent: ollama launch hermes --model my-model
OpenClaw: ollama launch openclaw --model my-model

ツールサポートを確認するには、次のコマンドを実行します：

ollama show my-model

tools 機能が存在する場合、出力にリストされます。

謝辞

このリリースは、GGML エコシステムの最適化への貢献に対して、Georgi Gerganov と llama.cpp のメンテナー、およびハードウェアパートナーである NVIDIA、AMD、Qualcomm、Intel に感謝の意を表します。

コミュニティのフィードバック

質問、フィードバック、またはトラブルシューティングについては、Ollama Discord に参加するか、hello@ollama.com までメールでお問い合わせください。