Liquid4All/cookbook

解决的问题

本仓库提供了一套全面的示例、教程和应用程序，旨在帮助开发者在各种平台上实现 Liquid AI 的开源权重 Liquid Foundation Models (LFMs) 以及 LEAP SDK，包括笔记本电脑、移动设备和边缘硬件。

如何工作

该烹饪书将资源组织为多个实现路径：

• 桌面与移动应用：提供使用 Python、Kotlin、Swift 编写的原生应用程序源码，可在本地运行 LFMs，用于语音转录、发票解析和语音助手等任务。
• 浏览器应用：演示如何使用 WebGPU、ONNX Runtime Web 和 WebAssembly 在浏览器中直接运行模型，实现零安装的 AI 体验。
• 微调：提供使用 Unsloth 和 TRL 等框架的 Colab 笔记本和脚本，通过 SFT、DPO 和 GRPO 等技术对文本、视觉和音频模型进行定制化。
• 社区项目：精选第三方实现，涵盖基于 RAG 的学习助手到用于野火预防的卫星图像分析等项目。

适用人群

适用于希望在设备上（边缘 AI）部署小型高效语言模型，而非仅依赖云 API 的开发者和 AI 工程师。

亮点

• 多模态示例：包含文本、视觉（VLM）和语音转语音模型的实现。
• 边缘部署：提供针对 Apple Silicon Mac、Android 和 iOS 的专用指南，使用 LEAP Edge SDK。
• 基于浏览器的 AI：提供通过 WebGPU 在本地运行推理和视觉模型的示例。
• 高级训练：提供关于持续预训练和强化学习（GRPO）的教程，适用于可验证任务。