Liquid AI LFM3 リリースノート

LFM3の概要

Liquid AIのLFM3は、専門的なインテリジェンスの出発点として機能するように構築された新世代の基盤モデルです。このファミリーは、テキスト、ビジョン、オーディオ、オムニ、意思決定をカバーする6つの2Bパラメータクラスのモデルで構成されており、すべて共通の1.7Bパラメータのベースアーキテクチャを共有しています。これらのモデルはエッジ展開向けに設計されており、ユーザーは単一のGPU上で特定のドメイン、専門用語、または展開環境に合わせて微調整（ファインチューニング）を行うことができます。

アーキテクチャの改善

LFM3-1.7B-Baseモデルは、パラメータあたりの高い能力と効率的な長文脈推論を必要とするエージェント的なユースケース向けに最適化された、トリプルハイブリッドアーキテクチャを特徴としています。このアーキテクチャは、モバイルCPU、GPU、NPUを含む14のデバイスとバックエンドの組み合わせ全体で、ハードウェアインザループ検索を使用して開発されました。

LFM3-1.7B-Baseの主な技術的特徴は以下の通りです：

• トリプルハイブリッドレイヤーミックス: 13個のゲート付きショート畳み込み、256トークンのウィンドウを持つ5個のスライディングウィンドウアテンション（SWA）レイヤー、および6個のグローバルアテンションレイヤーの組み合わせ。
• ヘッドごとのゲート付きアテンション: シグモイドゲートにより、個々のヘッドが追加すべき関連情報を持たない場合に非アクティブ化できるため、アクティベーションの異常値を抑制し、量子化を改善するのに役立ちます。
• 部分的なRoPE: グローバルアテンションレイヤーは各ヘッドの高周波半分にのみ回転を適用し、SWAレイヤーは完全な回転位置埋め込み（RoPE）を維持します。
• サンドイッチノルム: アクティベーションを安定させるために、各ブロックの入力と出力の両方に正規化が適用されます。

これらの改善により、LFM3-1.7Bはパラメータ数を35%削減しながら、以前のLFM2.5-2.6Bを上回る性能を発揮します。このモデルは256Kのコンテキストウィンドウをサポートしています。

マルチモーダル機能

LFM3は、共有の1.7Bバックボーン上に構築された専門モデルを提供し、ビジョンとオーディオ用の新しい自社製エンコーダーを組み込んでいます：

• ビジョンエンコーダー: 畳み込みとアテンションを組み合わせ、以前のバージョンで使用されていたSigLIP2エンコーダーよりも3倍少ない計算量で済みます。フレームペアを単一の時間スライスに埋め込むことでビデオ入力をサポートします。
• オーディオエンコーダーとLiquidCodec: オーディオエンコーダーは完全に因果的であり、低いTime-to-First-Token（最小50ms）を実現します。LiquidCodecは、単一のCPUスレッドでリアルタイムの約87倍の速度でストリーミング音声生成を提供します。
• オムニモデル: LFM3-Omni-2Bはこれらのエンコーダーを統合して、テキスト、画像、ビデオ、オーディオの入力を処理し、テキストと音声を出力します。これにより、ASR、ビジョン、TTS用に個別のモデルを用意する必要がなくなります。
• 意思決定モデル（d1）: d1-2Bおよびd1-omni-2Bモデルは、構造化された意思決定のために設計されています。これらは入力を処理し、単一のフォワードパスで複数の質問に回答し、分類や抽出などのタスクに対して調整された確率を提供します。

展開とファインチューニング

LFM3はオンデバイス展開向けに設計されており、テキストモデルは4ビット精度で約1GBの容量を占めます。Liquid AIは、構造化されたJSON抽出、ツール呼び出し、ロボティクスなどのタスクに合わせてモデルを適応させるための、さまざまな手法（SFT、DPO、GRPO、CPT）を網羅したファインチューニングノートブックのスイートを提供しています。

ロボティクスアプリケーションでは、LFM3-VL-2Bモデルがオーケストレーション、ナビゲーション、操作タスクで実証されています。15の実施形態でトレーニングされた場合、LIBEROやRoboCasa-GR1などのベンチマークで高い成功率を達成し、Jetson AGX Orinのような組み込みハードウェア上でリアルタイムのアクション生成を実現しました。