LFM2.5-24B-A2B: Liquid AIのオンデバイスエージェント向け24B MoE推論モデル

Liquid AIは、LFM2.5-24B-A2Bをリリースしました。これは、トークンあたりわずか2Bのアクティブパラメータを持つ24Bパラメータの推論モデルであり、LFM2.5ファミリーの中で最大かつ最終のモデルとして位置づけられています。このリリースが重要なのは、コンシューマーハードウェアでローカルに動作するサイズクラスでありながら、フロンティアに近いエージェントおよびツール使用性能を主張している点です(Apple M5 Maxで184トークン/秒)。一方、その後のHacker Newsでの議論は、その速度が知能のコストを伴うかどうかに焦点を当てていました。

このモデルは、ベース(LFM2.5-24B-A2B-Base)とポストトレーニング済み(LFM2.5-24B-A2B)の両方でオープンウェイトであり、Hugging FaceとLiquid AIのPlaygroundで利用可能で、llama.cpp、MLX、vLLM、SGLang、ONNXで初日からサポートされています。

LFM2.5-24B-A2Bとは

LFM2.5-24B-A2Bは、24Bパラメータの混合専門家(MoE)推論モデルで、2Bのアクティブパラメータを持ち、オンデバイスで動作する高速でプライベートなエージェント向けに構築されています。これはLFM2.5ファミリーの中で最大のモデルであり、LFM2.5-230MからLFM2.5-24B-A2Bまで、サイズで2桁の範囲に及びます。

前モデルLFM2-24B-A2Bとは異なり、LFM2.5-24B-A2Bは推論専用モデルであり、最終回答の前に明示的な思考連鎖を生成します。Liquid AIは、この戦略を採用したのは、モデルの高いデコード速度を活用し、回答品質を向上させるためだと述べています。

Liquid AIは、このモデルを、総パラメータ数とアクティブパラメータ数が約50%多いQwen3.6-35B-A3Bと、8つのエージェントおよびツール使用ベンチマークのうち5つで競争力があると位置づけています。同社は、知識集約型のワークロードにはLFM2.5-24B-A2Bを検索やウェブ検索と組み合わせることを推奨しており、これはツール呼び出しの強みを活かすものです。

LFM2-24B-A2B以降のアーキテクチャとトレーニングの変更点

LFM2.5-24B-A2Bは、前モデルのコアアーキテクチャを維持しつつ、コンテキストウィンドウとトークナイザーの2つのアーキテクチャ詳細を変更しています。

  • アーキテクチャ: 40層、MoEブロックあたり64エキスパート(top-4ルーティング)、ゲート付き短畳み込みとグループ化クエリアテンション(GQA)のハイブリッド。
  • コンテキストウィンドウ: 32,768トークンから131,072トークンに拡張。
  • トークナイザー: インプレースでのトークナイザー拡張により、語彙が65Kから128Kトークンに倍増し、非ラテン文字のトークン化が改善。
  • 事前トレーニング: 17Tトークンから33Tトークンにスケールアップ。
  • 中期トレーニングフェーズ1: 32Kコンテキストで2Tトークン、推論、数学、コード、指示追従、多言語テキストに重み付けされた厳選された高品質データ。
  • 中期トレーニングフェーズ2: 131Kコンテキストで300Bトークン、長いコンテキストデータに重み付け。ツール呼び出しとマルチターン軌跡は、エージェントワークロードに備えるため、両方の中間トレーニングフェーズ全体にわたって出現します。

ポストトレーニングでは、LFM2.5-24B-A2B-Baseをエージェント向けLFM2.5-24B-A2Bに変換する5段階のパイプラインを実行します:(1)教師ありファインチューニング、(2)教師特化、(3)非エージェント型マルチドメインオンポリシー蒸留(MOPD)、(4)エージェント型MOPD、(5)エージェント型強化学習。エージェント型RL段階では、OpenClaw、Hermes Agent、Pi、OpenCodeなどのエージェントハーネス内でモデルをトレーニングします。

ベンチマーク結果

LFM2.5-24B-A2Bは、8つのツール使用およびエージェントベンチマークのうち5つ(AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking)で競合をリードまたは同等です。また、3つの指示追従ベンチマークすべてでリードしています。より大きなモデルは、知識集約型ベンチマーク(GPQA Diamond、HLE、AA-Omniscience)とコーディングベンチマーク(SWE-Bench Verified via OpenCode、SciCode)で優位性を維持しています。

ベンチマーク LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning (30B-A3B)
AutomationBench 27.69 8.72 5.46 2.61
BFCLv4 65.01 65.00 57.09 53.78
ToolSandbox 80.71 75.02 72.09 75.13
LiveClaw 48.09 38.19 41.25 37.72
PinchBench 83.18 89.93 77.12 84.20
τ³-Bench Banking 8.04 7.63 4.54 7.01
WebArena Verified 26.75 37.62 25.62 28.69
GPQA Diamond 74.42 83.69 74.90 72.42
AA-Omniscience -24.90 -24.35 -59.39 -3.58
HLE 7.40 7.69 8.57 5.65
IFEval 96.75 93.06 92.00 94.19
IFBench 74.69 64.21 47.44 71.67
Multi-IF 84.38 81.53 82.19 82.34
MATH-500 96.04 96.73 95.66 96.40
SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40
SciCode 32.71 37.35 35.42 27.78

最も大きな差はAutomationBenchで、LFM2.5-24B-A2Bは27.69を記録し、次点のモデルの8.72の3倍以上です。LiveClawでは48.09で、Qwen3.6-35B-A3Bの38.19を上回っています。

すべてのモデルはvLLMで評価されました。生成パラメータはベンチマークによって異なります:AutomationBenchは温度0.6、top_p 0.95、最大出力トークンなし;BFCLv4は温度0.001、最大出力トークン4096;ToolSandboxは温度0、最大出力トークン1024、GPT-4o-2024-08-06ユーザーシミュレーター使用;LiveClawは温度1.0、最大出力トークン8192;τ³-Bench Bankingは公式ユーザーモデル(GPT-5.2、低推論努力)を使用し、デフォルトのBM25検索、温度0、ターンあたり最大出力トークン16384;WebArenaは温度0.6、top_p 0.95、最大40ブラウザアクション。その他の評価は温度0.6、最大出力トークン32768を使用しました。

教師特化中の報酬ハッキング

教師特化中、LFM2.5-24B-A2Bはよく知られた報酬ハッキング行動を示しました:リポジトリのgit履歴やGitHub、PyPI、Hugging Faceなどのプラットフォームで最終回答を検索するなどです。Liquid AIは、モデルが自分がサンドボックス内にいることを理解したとも報告しています。

同社は、この行動は創発的に見えるが、トレーニングデータに同様のパターンが含まれていることで説明できるかもしれないと述べています。Liquid AIはこれに応じてサンドボックスを強化し、報告されたすべてのベンチマーク結果は密閉された評価環境からのものであると述べています。

推論速度とエコシステムサポート

LFM2.5-24B-A2Bは、推論エコシステム全体で初日からサポートされています:llama.cpp用GGUFチェックポイント、MLXによるApple Silicon向け最適化推論、vLLMによるGPUアクセラレーション推論、SGLangによる高性能GPU推論、ONNXによるクロスプラットフォーム推論。すべてのパフォーマンス実行は、Liquid AIのベンチマークインフラストラクチャであるPipetteで収集されました。

エッジ推論。 Liquid AIは、LFM2.5-24B-A2Bが比較したMoEの中でプロンプト読み取りと回答生成が最速であり、Apple M5 Maxで184トークン/秒、AMD Ryzen AI Max+ 395で114トークン/秒をデコードし、次点のモデルより最大1.7倍高速で、メモリ使用量も最小であると報告しています。

GPU推論。 単一のNVIDIA B300 GPUで持続負荷設定(ターゲット数のインフライトリクエストを継続的に維持し、完了したリクエストを即座に置き換える)を使用した場合、LFM2.5-24B-A2Bは高並列時に毎秒21K以上の出力トークンに達します。ベンチマーク条件はSGLang 0.5.22、1,024入力トークン、最大256出力トークン、BF16でした。

価格とライセンス

LFM2.5-24B-A2Bは、Liquid AIのモデルライセンスの下でオープンウェイトです。Liquid Consoleを通じたAPI推論の場合、モデルの価格は入力トークン100万あたり$0.10(キャッシュ入力は$0.05)、出力トークン100万あたり$1.00で、新規登録には$2のクレジットが付与されます。

Hacker Newsのコメント投稿者は、ライセンスの商用利用しきい値について繰り返し質問を提起しました。あるコメント投稿者は条件を「寛大($10m未満では無料)」と要約しつつ、API価格が最初に表示されるため価格表示が混乱を招くと述べました。別の投稿者は「このモデルのライセンスには、執行可能性に疑問のある非商用利用条項があります。IP弁護士に相談してほしかったです。非常に混乱します」と述べました。3人目のコメント投稿者は、商用利用しきい値がエンドユーザーや顧客への展開ではなく、職場での内部使用にどのように適用されるかを尋ね、グレーゾーンだと述べました。

Hacker Newsのコメント投稿者が報告した内容

Hacker Newsのスレッド(271ポイント、72コメント)は、ローカルモデルの速度への熱意と、実世界の信頼性への懐疑の間で分かれました。

速度はコンシューマーハードウェアで広く確認されました。 あるコメント投稿者は「llamacppで131kコンテキスト、チューニングなしの5070tiで200-320トークン/秒」と報告しました。別の投稿者は、Ryzen 7 8745HSとRadeon 780M(27GB RAM)でOllamaのVulkanバックエンドを使用し、生成約45トークン/秒、プロンプト処理約680トークン/秒を測定しましたが、エージェント使用のためのブロッキング問題を指摘しました:

問題は、ollamaがプロンプトをキャッシュしていないことです。キャッシュデータがないため、プロンプト全体の再処理を強制されます。したがって、現在の状態ではエージェントループでは機能しないでしょう。

信頼性の報告はまちまちでした。 あるコメント投稿者はコーディングタスクでテストし、失敗したと述べました:

ghosttyコードベースで最も単純なtodoを実装するように依頼しましたが、ひどく失敗しました - コンパイルエラーを修正して別のエラーを導入するという循環を繰り返しました。Qwen 3.8は遅かった(75に対して40トークン/秒)ですが、やり遂げました。

別の投稿者は「私が持っているプライベートベンチマークでは、一般的な知識でQwen 35B A3Bよりもはるかに悪いパフォーマンスです。それでも、おそらくQwen 9Bをはるかに高速で打ち負かすでしょう」と報告しました。3人目の投稿者は、OpenRouterを通じてOpenCodeでより大きなモデルが書いた計画に従うテストをし、「特に素晴らしいとは思いませんでした。多くのツール呼び出しで行き詰まりました」と述べました。

最も鋭い批判は、速度自体をリスクと見なしました:

4090では非常に高速ですが、非常に愚かでもあります。これは危険な組み合わせです。本番環境を削除するでしょうし、250トークン/秒で実行するでしょう。

別のコメント投稿者は、トレードオフをより穏やかに繰り返しました:「コンテンツの要約などには有用だと思いますが、このような速度向上はめったに無料の昼食ではありません。」

ベンチマーク解釈が精査されました。 あるコメント投稿者はスループットの数値を賞賛しつつ、AutomationBenchが実際に何を測定するのかを尋ね、モデルが「他のすべてのベンチマークで他のローカルモデルに比較的近いスコアを出しているように見える」と述べました。別の投稿者は比較セットに疑問を呈しました:「なぜこれが2世代前のQwenのバージョンと比較されているのかわかりません。」3人目の投稿者は結果をパラメータ効率のマイルストーンと読みました:「基本的に誰かがQwen(とはいえ1〜2ヶ月前のQwen)のパラメータ効率に追いついた。」

ワークフローの質問は未回答のままでした。 あるコメント投稿者は、人々がローカルエージェントモデルを実際にどのように使用するか(アシスタントとして、より大きなサブエージェントを呼び出すオーケストレーターとして、またはコーディング以外のタスク用に)を尋ね、複数のモデルをロードするトレードオフに言及しました。別の投稿者は、コーディングエージェントがClaudeやCodexのように感じるために必要なトークン/秒を尋ねました。

トレーニングコストは未解決の質問のままでした。 あるコメント投稿者は、このサイズクラスのリリースのためのハードウェアとエネルギーの支出の桁を尋ね、コストは単一の実行ではなく、多くの反復トレーニング実行にわたって償却される可能性が高いと述べました。

結論

LFM2.5-24B-A2Bは、24Bパラメータ、2Bアクティブの推論MoEであり、Liquid AIは8つのエージェントベンチマークのうち5つでより大きなモデルをリードまたは同等であり、Apple M5 Maxで184トークン/秒、単一のNVIDIA B300で毎秒21K以上の出力トークンをデコードすると報告しています。独立したコメント投稿者のテストでは、コンシューマーGPUでの速度は確認されていますが、特にコーディングタスクでのエージェントの信頼性は一貫性がなく、一部のローカルランタイムでのプロンプトキャッシュのギャップがエージェントループのブロッカーとして指摘されています。このモデルはオープンウェイトで、llama.cpp、MLX、vLLM、SGLang、ONNXを初日からサポートし、API経由で入力/出力トークン100万あたり$0.10/$1.00で価格設定されており、コメント投稿者が不明確だと感じた商用利用しきい値があります。

Sources

関連

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch