IBM Granite 4.0 Nano リリースノート

IBMは、エッジおよびオンデバイスアプリケーション向けに最適化された小規模言語モデル（SLM）のシリーズであるGranite 4.0 Nanoをリリースしました。これらのモデルは、最小限のパラメータフットプリント内で高いパフォーマンスを提供することを目的としており、専門的なタスクでの有用性を達成するために巨大なパラメータ数を必要とする必要を減らします。

モデルバリアントとアーキテクチャ

Granite 4.0 Nanoは、異なるランタイム間での互換性を確保するために2つのアーキテクチャアプローチに分割された、4つのインストラクトモデルとそれに対応するベースモデルから構成されています。

  • Granite 4.0 H 1B: 約15億パラメータを持つ密なLLMで、ハイブリッド-SSM（State Space Model）ベースのアーキテクチャを特徴とします。
  • Granite 4.0 H 350M: 約3.5億パラメータを持つ密なLLMで、ハイブリッド-SSMベースのアーキテクチャを特徴とします。
  • Granite 4.0 1Bおよび350M: 1Bおよび350Mモデルの従来のトランスフォーマーベースバージョンで、ハイブリッドアーキテクチャが最適化されていないワークロード（例えばllama.cppなど）向けに提供されます。

技術仕様とトレーニング

すべてのGranite 4.0 Nanoモデルは、元のGranite 4.0ファミリーに使用された15兆トークン以上のデータセットと同じ改善された方法論、パイプラインを使用してトレーニングされました。

主要なデプロイとガバナンスの基準には以下が含まれます：

  • ライセンス: Apache 2.0ライセンスの下でリリースされました。
  • ランタイムサポート: vLLM、llama.cpp、MLX向けのネイティブアーキテクチャサポート。
  • 認証: 責任あるモデル開発のためのISO 42001認証。これにより、モデルがグローバル基準に従って構築および管理されることを保証します。

パフォーマンスとベンチマーク

Granite 4.0 Nanoモデルは、Alibaba（Qwen）、LiquidAI（LFM）、Google（Gemma）などを含む0.2Bから2Bのパラメータ範囲の他のモデルと比較して、能力が向上していることを示しています。

汎用機能

知識、数学、コード、安全性を測定する一般的なベンチマークにおいて、Nanoモデルはそのサイズに対して能力が大幅に向上しています。

エージェントワークフローのパフォーマンス

これらのモデルは、エージェントワークフローに重要なタスクにおいて、同様のサイズの競合他社をいくつか上回ります。具体的には：

  • 指示従従: IFEvalベンチマークで測定。
  • ツール呼び出し: BerkeleyのFunction Calling Leaderboard v3（BFCLv3）で測定。

結論

Granite 4.0 Nanoは、高いパフォーマンスと効率のバランスを取った小規模モデルの柔軟な範囲を提供し、オンデバイスAIの導入における互換性を最大限に高めるため、ハイブリッド-SSMと従来のトランスフォーマーアーキテクチャの両方を提供します。

Sources