Liquid4All/cookbook

해결하는 문제

이 저장소는 랩톱, 모바일 장치, 엣지 하드웨어를 포함한 다양한 플랫폼에서 Liquid AI의 오픈웨이트 Liquid Foundation Models (LFMs)와 LEAP SDK를 구현하는 데 도움이 되는 포괄적인 예제, 튜토리얼, 애플리케이션 컬렉션을 제공합니다.

작동 방식

이 요리책은 다음과 같은 구현 경로로 리소스를 정리합니다:

• 데스크톱 및 모바일 앱: Python, Kotlin, Swift로 작성된 네이티브 앱 소스 코드를 제공하여 음성 인식, 송장 파싱, 음성 보조 등의 작업을 로컬에서 LFMs로 실행합니다.
• 브라우저 앱: WebGPU, ONNX Runtime Web, WebAssembly를 사용하여 브라우저에서 모델을 직접 실행하여 설치 없이 AI 경험을 제공합니다.
• 파인튜닝: Unsloth 및 TRL과 같은 프레임워크를 사용한 Colab 노트북과 스크립트를 제공하여 SFT, DPO, GRPO 등의 기법을 통해 텍스트, 비전, 오디오 모델을 사용자 맞춤형으로 조정합니다.
• 커뮤니티 프로젝트: RAG 기반 학습 보조 도구부터 화재 예방을 위한 위성 이미지 분석에 이르기까지 다양한 제3자 구현을 큐레이션합니다.

대상 사용자

클라우드 API에만 의존하는 것이 아니라, 온디바이스(엣지 AI)에서 작고 효율적인 언어 모델을 배포하고 싶은 개발자 및 AI 엔지니어를 위한 것입니다.

주요 특징

• 다중 모달 예제: 텍스트, 비전(VLM), 오디오에서 음성으로의 모델 구현을 포함합니다.
• 엣지 배포: LEAP Edge SDK를 사용하여 Apple Silicon 맥, 안드로이드, iOS용 특화 가이드를 제공합니다.
• 브라우저 기반 AI: WebGPU를 통해 로컬에서 추론 및 비전 모델을 실행하는 예제를 제공합니다.
• 고급 학습: 검증 가능한 작업을 위한 지속적 사전 학습 및 강화 학습(GRPO) 튜토리얼을 제공합니다.