Liquid4All/cookbook

해결하는 문제

이 저장소는 개발자가 Liquid AI의 오픈 가중치 Liquid Foundation Models (LFMs) 및 LEAP SDK를 노트북, 모바일 디바이스, 엣지 하드웨어 등 다양한 플랫폼에 배포하고 사용자 지정하는 데 도움이 되는 포괄적인 예제, 튜토리얼, 애플리케이션 모음을 제공합니다.

작동 방식

쿡북은 구현 패턴을 여러 범주로 구성합니다.

• 플랫폼별 앱: 데스크톱 (Python/CLI), 브라우저 (WebGPU/ONNX Runtime Web), 모바일 (Android용 Kotlin, iOS용 Swift) 애플리케이션용 즉시 사용 가능한 코드.
• 미세 조정 파이프라인: Unsloth, TRL, Halo와 같은 프레임워크를 사용하여 텍스트, 비전, 오디오 모델에 대해 지도 미세 조정 (SFT), 직접 선호 최적화 (DPO), 그룹 상대 정책 최적화 (GRPO)를 수행하는 Colab 노트북 및 스크립트.
• 배포 가이드: 이미지 이해 및 임상 데이터 해석과 같은 특정 모델 기능을 보여주는 단계별 노트북.
• 통합 예제: RAG 앱부터 온디바이스 음성 어시스턴트까지 LFM이 타사 및 커뮤니티 구축 프로젝트에 통합되는 방식을 보여줍니다.

대상 독자

디바이스 또는 엣지에서 작고 효율적인 언어 모델을 구현하려는 AI 개발자 및 엔지니어, 그리고 위성 이미지, 오디오 전사, 의료 데이터와 같은 전문 분야에 이러한 모델을 미세 조정하려는 사람들을 대상으로 합니다.

주요 특징

• 크로스 플랫폼 지원: 네이티브 iOS/Android 앱, WebGPU 브라우저 앱, 데스크톱 CLI 도구 예제.
• 멀티모달 기능: 비전-언어 모델 (VLM), 오디오-텍스트 전사, 텍스트 기반 추론 구현.
• 고급 훈련 기술: 메모리 효율적인 미세 조정 (LoRA), 강화 학습 (GRPO), FTPO를 통한 "둠 루프" 제거 튜토리얼.
• 엣지 우선 초점: 모바일 및 엣지 디바이스에서 개인 정보를 보호하고 지연 시간을 줄이기 위해 로컬 추론을 강조합니다.