LFM2.5-24B-A2B: Liquid AIの24B推論エージェント、アクティブパラメータはわずか2B

Liquid AIは、トークンあたりわずか2Bのアクティブパラメータを持つ24Bパラメータの推論モデルLFM2.5-24B-A2Bをリリースしました。ローカルハードウェア上で高速かつプライベートなエージェントを実行できるように設計されています。このモデルが重要なのは、デバイス上での継続的なエージェント推論を手頃な価格で実現するからです。各チェーン・オブ・ソート・トークンは安価で、総パラメータとアクティブパラメータが約50%多い混合専門家モデルと競争力があります。

このモデルはオープンウェイトで、Hugging FaceでベースバリアントであるLFM2.5-24B-A2B-Baseとともに提供されています。

LFM2.5-24B-A2Bとは

LFM2.5-24B-A2Bは、2Bのアクティブパラメータを持つ24Bパラメータの推論モデルで、デバイス上で高速かつプライベートなエージェント向けに構築されています。回答する前に思考し、ツールを呼び出し、一般的なエージェントハーネス内でマルチステップのタスクを処理します。

トークンあたり2Bのパラメータのみがアクティブであるため、各推論トークンは安価で、エージェントはユーザー自身のハードウェア上で継続的に実行できます。前身のLFM2-24B-A2Bとは異なり、これは推論専用モデルであり、最終回答の前に明示的なチェーン・オブ・ソートを生成します。

Liquid AIは、このモデルの3つの主要な特性を次のように要約しています。

  • ベストインクラスのエージェント: エージェントおよびツール使用タスクにおいて、総パラメータとアクティブパラメータが約50%多いQwen3.6-35B-A3Bと競争力があり、LiveClawで48.09対38.19を記録。
  • MoEスピードでの推論: このモデルは常に回答前に思考し、トークンあたりわずか2Bのアクティブパラメータで、各推論トークンは安価です。
  • 効率的な推論: Apple M5 Maxで184トークン/秒、単一のNVIDIA B300 GPUで最大21K出力トークン/秒。

アーキテクチャとトレーニングレシピ

LFM2.5-24B-A2BはLFM2-24B-A2Bを基盤とし、そのアーキテクチャを維持しています: 40層、MoEブロックごとに64エキスパート、トップ4ルーティング、ゲート付き短い畳み込みとグループ化クエリアテンション(GQA)の同じハイブリッド。

2つの変更が前身と異なります:

  • コンテキストウィンドウが32Kから131Kトークンに拡大。
  • インプレースのトークナイザー拡張により、語彙が65Kから128Kトークンに倍増し、非ラテン文字のトークン化が改善。

事前トレーニングは約17Tから約33Tトークンにスケールアップされました。中間トレーニングでは、32Kコンテキストで2Tトークン(推論、数学、コード、指示追従、多言語テキストに重点を置く)と、131Kコンテキストで300Bトークン(長いコンテキストデータに重点を置く)が追加されます。ツール呼び出しとマルチターンの軌跡は、両方のフェーズを通じて登場します。

ポストトレーニングでは、ベースモデルを5段階でエージェントに変換します:

  1. 教師あり微調整(SFT)
  2. 教師専門化
  3. マルチドメインオンポリシー蒸留(MOPD)、非エージェント: 非エージェントタスクで専門教師を蒸留
  4. MOPD、エージェント: エージェントタスクに焦点を当てた2番目の蒸留段階
  5. エージェント強化学習(Agentic RL): OpenClaw、Hermes Agent、Pi、OpenCodeなどのエージェントハーネス内でモデルをトレーニング

ベンチマーク結果

Liquid AIは、ツール使用とエージェントワークフロー、知識、指示追従、数学、コーディングをカバーする16のベンチマークで、LFM2.5-24B-A2BをQwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightningと比較評価しました。これはグループ内で最小のモデルですが、総パラメータとアクティブパラメータが約50%多いMoEと競争力があります。

ベンチマーク LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning (30B-A3B)
AutomationBench 27.69 8.72 5.46 2.61
BFCLv4 65.01 65.00 57.09 53.78
ToolSandbox 80.71 75.02 72.09 75.13
LiveClaw 48.09 38.19 41.25 37.72
PinchBench 83.18 89.93 77.12 84.20
τ³-Bench Banking 8.04 7.63 4.54 7.01
WebArena Verified 26.75 37.62 25.62 28.69
GPQA Diamond 74.42 83.69 74.90 72.42
AA-Omniscience -24.90 -24.35 -59.39 -3.58
HLE 7.40 7.69 8.57 5.65
IFEval 96.75 93.06 92.00 94.19
IFBench 74.69 64.21 47.44 71.67
Multi-IF 84.38 81.53 82.19 82.34
MATH-500 96.04 96.73 95.66 96.40
SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40
SciCode 32.71 37.35 35.42 27.78

すべてのモデルはvLLMを使用して、各ベンチマークの推奨生成パラメータで評価されました。

モデルが最も強い分野

アプリケーションにとって、強みはツール使用と指示追従です。LFM2.5-24B-A2Bは、8つのツール使用およびエージェントベンチマークのうち5つ(AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking)で競合他社をリードまたは同等であり、AutomationBenchでは次点モデルの3倍以上のスコアを記録しています。また、3つの指示追従ベンチマーク(IFEval、IFBench、Multi-IF)すべてでリードしています。

より大きなモデルが依然として勝る分野

より大きなモデルは、GPQA Diamond、HLE、AA-Omniscienceなどの知識重視のベンチマークや、SWE-Bench Verified (OpenCode)やSciCodeなどのコーディングベンチマークで優位性を維持しています。Liquid AIのガイダンスは、知識重視のワークロードにはLFM2.5-24B-A2Bを検索やWeb検索と組み合わせることです。

CPUおよびGPUでの推論速度

LFM2.5-24B-A2Bは、llama.cpp、MLX、vLLM、SGLang、ONNXを含む推論エコシステム全体で初日からサポートされています。

エッジ推論。 LFM2.5-24B-A2Bは、比較したMoEの中で最速で、M5 Maxで184トークン/秒、Ryzen AI Max+ 395で114トークン/秒をデコードします。これは次点モデルより最大1.7倍高速であり、メモリ使用量は最小です。

GPU推論。 LFM2.5-24B-A2Bは、同サイズクラスで最速のモデルであり、単一のB300で高並列時に毎秒21K出力トークン以上を達成します。

LFM2.5-24B-A2Bの実行方法

transformersでロードする

最新バージョンのtransformersをインストールします(transformers>=5.0.0と互換性あり):

pip install -U transformers

次に、モデルをロードして実行します:

from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

model_id = "LiquidAI/LFM2.5-24B-A2B"
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    dtype="bfloat16",
#   attn_implementation="flash_attention_2" <- uncomment on compatible GPU
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

prompt = "What is C. elegans?"

input_ids = tokenizer.apply_chat_template(
    [{"role": "user", "content": prompt}],
    add_generation_prompt=True,
    return_tensors="pt",
    tokenize=True,
)["input_ids"].to(model.device)

output = model.generate(
    input_ids,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.05,
    max_new_tokens=512,
    streamer=streamer,
)

エージェントハーネスを向ける

LFM2.5-24B-A2Bをローカルで任意のOpenAI互換バックエンドの背後で提供し、エージェントハーネスをそのバックエンドに向けます。たとえば、Hermes Agentを使用する場合:

hermes config set model.provider custom
hermes config set model.base_url http://localhost:8080/v1
hermes config set model.default LFM2.5-24B-A2B
hermes config set model.context_length 131072
hermes config set model.api_mode chat_completions
hermes config set agent.tool_use_enforcement true

ポートはサービングバックエンドによって異なります: llama.cppとMLXは8080、vLLMは8000、SGLangは30000、LM Studioは1234を使用します。モデルカードにはOpenClawとPiの設定が記載されており、Liquid AIは完全なローカルエージェントセットアップをカバーするガイドを公開しています。

入手方法と開始方法

LFM2.5-24B-A2BとLFM2.5-24B-A2B-Baseはどちらもオープンウェイトで、Hugging Faceで利用できます。

  • ダウンロード: Hugging FaceでLFM2.5-24B-A2B-BaseとLFM2.5-24B-A2B。
  • ハーネスでの使用: Liquid AIのガイドでは、OpenClaw、Hermes Agent、Piなどのローカルエージェントの実行について説明しています。
  • 微調整: Liquid AIは、LFM2.5-24B-A2Bを特定のタスクに適応させるための微調整チュートリアルをクックブックで公開しています。

オンデバイスエージェントへの影響

LFM2.5-24B-A2Bは、特定のトレードオフを対象としています: チェーン・オブ・ソートがローカルハードウェア上で継続的に実行できるほど安価な推論モデルです。2Bのアクティブパラメータ数によりトークンあたりのコストが低く抑えられ、131Kのコンテキストウィンドウは長いマルチターンのエージェント軌跡をサポートし、エージェントRL段階では静的データだけでなく実際のハーネス内でモデルをトレーニングします。

このトレードオフはベンチマーク表に明確に示されています: このモデルはツール使用と指示追従で最も強く、知識重視およびコーディングベンチマークでは大きなモデルより弱いです。Liquid AI自身の推奨は、知識がボトルネックとなる場合は検索やWeb検索と組み合わせることです。

Sources