Liquid AI LFM3 릴리스 노트

LFM3 개요

Liquid AI의 LFM3는 전문화된 지능을 위한 출발점 역할을 하도록 구축된 차세대 파운데이션 모델입니다. 이 제품군은 텍스트, 비전, 오디오, 옴니(omni), 의사결정을 아우르는 6개의 2B 파라미터급 모델로 구성되어 있으며, 모두 공통된 1.7B 파라미터 기반 아키텍처를 공유합니다. 이 모델들은 엣지 배포를 위해 설계되었으며, 사용자가 특정 도메인, 용어 또는 배포 환경에 맞춰 단일 GPU에서 미세 조정할 수 있도록 지원합니다.

아키텍처 개선 사항

LFM3-1.7B-Base 모델은 파라미터당 높은 성능과 효율적인 긴 컨텍스트 추론이 필요한 에이전트 사용 사례에 최적화된 3중 하이브리드 아키텍처를 특징으로 합니다. 이 아키텍처는 모바일 CPU, GPU, NPU를 포함한 14가지 장치 및 백엔드 조합에 걸친 하드웨어 인 더 루프(hardware-in-the-loop) 검색을 통해 개발되었습니다.

LFM3-1.7B-Base의 주요 기술적 특징은 다음과 같습니다:

  • 3중 하이브리드 레이어 조합: 13개의 게이트형 단기 컨볼루션, 256 토큰 윈도우를 가진 5개의 슬라이딩 윈도우 어텐션(SWA) 레이어, 그리고 6개의 글로벌 어텐션 레이어의 조합입니다.
  • 헤드별 게이트 어텐션: 시그모이드 게이트를 통해 개별 헤드가 추가할 관련 정보가 없을 때 비활성화되도록 하여, 활성화 이상치를 억제하고 양자화를 개선합니다.
  • 부분 RoPE: 글로벌 어텐션 레이어는 각 헤드의 고주파 절반에만 회전을 적용하며, SWA 레이어는 전체 Rotary Positional Embeddings(RoPE)를 유지합니다.
  • 샌드위치 정규화: 안정적인 활성화를 유지하기 위해 각 블록의 입력과 출력 모두에 정규화가 적용됩니다.

이러한 개선 사항을 통해 LFM3-1.7B는 파라미터를 35% 적게 사용하면서도 이전 모델인 LFM2.5-2.6B보다 뛰어난 성능을 발휘합니다. 이 모델은 256K 컨텍스트 윈도우를 지원합니다.

멀티모달 기능

LFM3는 공유된 1.7B 백본을 기반으로 구축된 전문 모델을 제공하며, 비전 및 오디오를 위한 새로운 자체 인코더를 통합합니다:

  • 비전 인코더: 컨볼루션과 어텐션을 결합하여 이전 버전에 사용된 SigLIP2 인코더보다 3배 적은 연산량을 요구합니다. 프레임 쌍을 단일 시간 슬라이스로 임베딩하여 비디오 입력을 지원합니다.
  • 오디오 인코더 및 LiquidCodec: 오디오 인코더는 완전 인과적(fully causal)이므로 낮은 첫 토큰 생성 시간(최저 50ms)을 가능하게 합니다. LiquidCodec은 단일 CPU 스레드에서 실시간 속도의 약 87배로 스트리밍 음성 생성을 제공합니다.
  • 옴니 모델: LFM3-Omni-2B는 이러한 인코더를 통합하여 텍스트, 이미지, 비디오 및 오디오 입력을 처리하고 텍스트와 음성을 출력하며, ASR, 비전, TTS를 위한 별도의 모델이 필요하지 않게 합니다.
  • 의사결정 모델(d1): d1-2B 및 d1-omni-2B 모델은 구조화된 의사결정을 위해 설계되었습니다. 이 모델들은 입력을 처리하고 단일 순방향 패스에서 여러 질문에 답변하며, 분류나 추출과 같은 작업을 위해 보정된 확률을 제공합니다.

배포 및 미세 조정

LFM3는 온디바이스 배포를 위해 설계되었으며, 텍스트 모델은 4비트 정밀도에서 약 1GB를 차지합니다. Liquid AI는 구조화된 JSON 추출, 도구 호출, 로봇 공학과 같은 작업에 모델을 적응시키기 위해 다양한 방법(SFT, DPO, GRPO, CPT)을 다루는 미세 조정 노트북 제품군을 제공합니다.

로봇 공학 애플리케이션의 경우, LFM3-VL-2B 모델은 오케스트레이션, 내비게이션 및 조작 작업에서 입증되었습니다. 15개의 구현체에 걸쳐 학습되었을 때, 이 모델은 Jetson AGX Orin과 같은 임베디드 하드웨어에서 실시간 동작 생성을 수행하며 LIBERO 및 RoboCasa-GR1과 같은 벤치마크에서 높은 성공률을 달성했습니다.

Sources