Liquid AI LFM3 2Bパラメータのマルチモーダルモデルがリリースされました

LFM3は2Bパラメータファミリーでマルチモーダル、オンデバイスインテリジェンスを実現

要点: Liquid AIは、LFM3をリリースしました。これは2Bパラメータのマルチモーダルモデルファミリー（テキスト、ビジョン、オーディオ、オムニ、およびデシジョン）で、スマートフォン、ノートパソコン、エッジCPU/GPUで動作し、さまざまなエージェントおよびマルチモーダルベンチマークでより大きなモデルを上回ります。

新しいハイブリッドアーキテクチャにより、パラメータあたりの表現力が向上

  • LFM3はトリハイブリッドレイヤーミックスを使用：13のゲート付きショート畳み込みレイヤー、256トークンウィンドウの5つのスライディングウィンドウアテンション（SWA）レイヤー、および全24レイヤー中の6つのグローバルアテンションレイヤー。畳み込みカーネルはサイズ7（LFM2の3から増加）。
  • ヘッドワイズゲートアテンションは、各アテンションヘッドにシグモイドゲートを適用し、ヘッドが価値を追加しない場合に非アクティブ化できるようにし、量子化の安定性を向上させます。
  • 部分RoPEは、グローバルアテンションレイヤー内の各ヘッドの高周波数半分のみを回転させ、低周波数コンテンツを距離不変マッチングのために保持します。
  • サンドイッチ正規化は、ブロック入力と出力の両方を正規化し、アクティベーションを適切にスケーリングします。
  • モデルは22Tトークンでトレーニングされ、最後の3.5Tトークンは高品質のエージェントトレースとツール呼び出しデータを重視し、コンテキストウィンドウを256Kトークンに拡張します。
  • ハードウェアインザループアーキテクチャ検索は、2デバイス（LFM2）から14のデバイス/バックエンドの組み合わせに拡張され、Samsung Galaxy S26 Ultra、OnePlus 15、Raspberry Pi 5、Apple M4 Max、AMD Ryzen AI、Armおよびx86 CPU、GPU、Qualcomm Hexagon NPUが含まれます。

結果: パラメータあたり、LFM3-1.7Bは短いプロンプトでLFM2-1.2Bに匹敵し、8Kトークンコンテキストの処理ではLFM2より約25%高速です。

マルチモーダルファミリーはすべてのモダリティをカバー

モデル モダリティ パラメータ 主な機能
LFM3-1.7B テキスト 1.7B 256Kトークンコンテキスト、エージェントポストトレーニング、ツール使用
LFM3-VL-2B ビジョン（画像+ビデオ） ~2B ビデオQ&A、ステップバイステップ推論、空間グラウンディング
LFM3-Audio-2B オーディオ ~2B 音声からテキスト、多言語TTS、オーディオ推論、ツール呼び出し
LFM3-Omni-2B ビジョン+オーディオ+テキスト 2.2B 音声ビジュアルQA、オーディオビジュアルビデオ理解、マルチモーダルツール呼び出し
d1-2B デシジョン（テキスト+画像） 2B 校正された確率を持つシングルパス構造化回答
d1-Omni-2B デシジョン（テキスト+画像+オーディオ） 2B d1-2Bと同じですが、音声クエリを受け付けます

すべてのモデルは同じバックボーンを共有しており、開発者はユースケースに合った最小のモデルを選択し、ローカルでファインチューニングできます。

テキストモデルLFM3-1.7Bはエージェントタスクで優れています

  • ベンチマークハイライト（特に記載がない限り、高いほど良い）：
    • 指示追従（IFEval）： 96.66% – テーブルのトップ。
    • ツール使用（ToolSandbox）： 80.36% – Qwen3.5-9Bを上回ります。
    • ロングコンテキストタスク（RULER 128K）： 65.56% – より大きな8-12Bモデルを上回ります。
    • エージェントコーディング（SWE-bench Verified）： 43.40% – Qwen3.5-4Bに匹敵します。
  • スループット： NVIDIA B300でSGLang BF16を使用した場合、LFM3-1.7Bは1,024の同時リクエストで3.6Bトークン/日を生成し、比較したモデルの中で最高です。
  • オンデバイス速度： llama.cpp Q4_0で測定したところ、LFM3-1.7Bは次に速いモデルより1.8–2.8倍高速にデコードし、メモリ使用量も最小です。128KトークンのKVキャッシュは1.6GBを占有し、Qwen3.5-4Bの4.3GBと比較されます。
  • 実世界エージェントテスト： Macベースの65の日常タスクの評価で、LFM3-1.7Bは64%のタスク成功率（Qwen3.5-2Bの48%に対して）を達成し、58%少ないトークンを使用し、試行の**<1%**で停止しました。

ビジョンモデルLFM3-VL-2Bは新しい効率基準を設定

  • パフォーマンス： 62のビジョンベンチマークで、LFM3-VL-2Bは平均71.4をスコアし、同じサイズの競合他社を少なくとも7.4ポイント上回り、多くのタスクで12BパラメータのGemma 4に匹敵します。
  • ビデオ理解： ビデオ入力を受け入れる最初のLFMビジョンモデル。講義、ウォークスルー、カメラフィードに関する質問に答えることができます。
  • 効率： 新しい社内ビジョンエンコーダー（164Mパラメータ）は、Qwen3.5-2Bの精度に匹敵しながら、2.2倍少ないFLOPsを使用します。オンデバイスのプリフィルスループットはクラスで最高です。
  • スループット： NVIDIA B300でSGLang BF16を使用した場合、LFM3-VL-2Bは**>12kトークン/秒**を生成し、すべての同等モデルを上回ります。

オーディオモデルLFM3-Audio-2Bはオンデバイス音声の基準を引き上げます

  • 品質メトリクス：
    • UTMOSv2（音声自然性）： 3.8 – Qwen2.5-Omni-3B（3.4）より高い。
    • WER（英語ASR）： 1.4% – リストされたモデルの中で最高。
    • VoiceBench： 73.1 – トップスコアで、強力な音声生成とツール呼び出しを示します。
  • アーキテクチャ： 因果オーディオエンコーダーでスライディングウィンドウアテンションとショート畳み込みを組み合わせます。LiquidCodecトークナイザーを使用し、80msの音声を12の離散トークンに圧縮し、並列トークン予測を可能にします。
  • レイテンシ： 音声終了後約50msで最初のトークンが表示され、自然言語音声アシスタントをサポートします。

オムニモデルLFM3-Omni-2Bはビジョン、オーディオ、言語を統合

  • クロスモーダル機能： 音声ビジュアルQA、オーディオビジュアルビデオ推論、およびマルチモーダルツール呼び出しを単一の2.2Bパラメータモデルで実現。
  • ベンチマーク比較： ほとんどのビデオ+オーディオタスクでQwen2.5-Omni-3Bを上回ります（例：Daily-Omni 70.1% vs 58.8%）。
  • オンデバイスユースケース： クラウド接続なしで見て、聞いて、行動できるアシスタントを可能にし、タブレット、車載システム、ロボティクスに適しています。

デシジョンモデルは即時の構造化回答を提供

  • d1-2B（テキスト+画像）およびd1-Omni-2B（オーディオ追加）は、以前のd1-3Bを約33%少ないパラメータで置き換え、精度を向上させます：
    • Decision Bench（エンタープライズレコード）：85.2% vs 83.6%。
    • Decision Index：51.1 vs 49.0。
  • 型付き回答には、Point（バウンディングボックス）、Read（抽出されたスパン）、Estimate（数値範囲）、Pick（複数オプション選択）が単一のフォワードパスで含まれるようになりました。
  • 音声クエリは精度の大部分を保持します（例：DecisionBench 78.2%音声 vs 83.4%書き込み）。

Hacker Newsからのコミュニティフィードバック

「LFM 3を展開してLFM 2.6を置き換えるのが楽しみです。大きなステップアップのように見えます。」 – @colingauvin

「このリリースに携わりました。ローカルAIとクラウドフロンティアモデルについての質問に喜んでお答えします。」 – @samstevens

「LFM3-VL-2BはテキストのみのプロンプトでLFM3-1.7Bより良い結果を出しました。1.7B Q8バージョンの量子化の問題の可能性があります。」 – @lubitelpospat

「エージェントコーディングの数値はQwen3.5-4Bに匹敵します。1.7Bモデルとしては印象的です！」 – @jauntywundrkind

これらのコメントは、初期採用者の熱意、オンデバイス展開の実用的な利点、およびユーザーがすでに調査しているいくつかの量子化の癖を強調しています。

はじめに

  • ウェイト： オープンウェイトのチェックポイントは、Hugging Face、Liquid AI Playground、およびLiquid AI APIで利用可能です。
  • サポートされているハードウェア： Apple M4 Max、AMD Ryzen AI、Qualcomm Hexagon NPU、Arm/x86 CPU、NVIDIA GPU、およびSGLang、llama.cpp、MLX、vLLMを介したクラウドバックエンド。
  • ファインチューニング： 2Bクラスのサイズにより、単一GPUでの完全なファインチューニングが可能です。ブログでは、ドメイン固有の適応（例：風力タービン欠陥検出）およびロボティクスパイプラインのためのノートブックを提供しています。

LFM3が重要な理由

LFM3は、2Bパラメータのマルチモーダルバックボーンが、専門的、エージェント的、およびロングコンテキストタスクでより大きなモデルを上回り、エッジデバイスで効率的に実行できることを証明しています。 これにより、フロンティアはクラウドのみの高コスト推論から、開発者が大規模な計算予算なしでカスタマイズできるプライベートで低レイテンシのオンデバイスAIへとシフトします。

Sources