Liquid4All/cookbook

解决的问题

此仓库提供全面的示例、教程和应用程序集合，旨在帮助开发者在各种平台上部署和定制 Liquid AI 的开源权重 Liquid Foundation Models (LFMs) 和 LEAP SDK，包括笔记本电脑、移动设备和边缘硬件。

工作原理

此 cookbook 将实现模式组织为几个类别：

• 平台特定应用：适用于桌面 (Python/CLI)、浏览器 (WebGPU/ONNX Runtime Web) 和移动设备 (Android 的 Kotlin、iOS 的 Swift) 的即用型代码。
• 微调管道：使用 Unsloth、TRL 和 Halo 等框架的 Colab 笔记本和脚本，对文本、视觉和音频模型执行监督微调 (SFT)、直接偏好优化 (DPO) 和组相对策略优化 (GRPO)。
• 部署指南：逐步笔记本，演示特定模型能力，例如图像理解和临床数据解读。
• 集成示例：展示 LFMs 如何集成到第三方和社区构建的项目中，范围从 RAG 应用到设备上的语音助手。

适用对象

此项目适用于想要在设备上或边缘实现小型、高效语言模型的 AI 开发者和工程师，以及希望针对卫星图像、音频转录或医疗数据等专业领域微调这些模型的人。

亮点

• 跨平台支持：原生 iOS/Android 应用、WebGPU 浏览器应用和桌面 CLI 工具的示例。
• 多模态能力：视觉语言模型 (VLM)、音频转文本转录和基于文本推理的实现。
• 高级训练技术：内存高效微调 (LoRA)、强化学习 (GRPO) 和通过 FTPO 消除“死亡循环”的教程。
• 边缘优先重点：高度强调本地推理，以确保隐私并减少移动和边缘设备上的延迟。