Liquid4All/cookbook
Examples, end-2-end tutorials and apps built using Liquid AI Foundational Models (LFM) and the LEAP SDK
解決的問題
本儲存庫提供一套全面的範例、教學與應用程式,旨在協助開發者在各種平台(包括筆電、行動裝置與邊緣硬體)上實作 Liquid AI 的開源權重 Liquid Foundation Models (LFMs) 與 LEAP SDK。
如何運作
本食譜將資源分類為多個實作路徑:
- 桌面與行動應用程式:提供使用 Python、Kotlin、Swift 編寫的原生應用程式原始碼,可在本地執行 LFMs,用於語音轉錄、發票解析與語音助理等任務。
- 瀏覽器應用程式:示範如何使用 WebGPU、ONNX Runtime Web 與 WebAssembly 在瀏覽器中直接執行模型,實現零安裝的 AI 經驗。
- 微調:提供使用 Unsloth 與 TRL 等框架的 Colab 筆記本與指令碼,透過 SFT、DPO 與 GRPO 等技術,客製化文字、視覺與音訊模型。
- 社群專案:彙整第三方實作,範圍從基於 RAG 的學習助理到用於野火預防的衛星影像分析等。
適用對象
適合希望在設備上(邊緣 AI)部署小型高效語言模型,而非僅依賴雲端 API 的開發者與 AI 工程師。
特色
- 多模態範例:包含文字、視覺(VLM)與語音轉語音模型的實作。
- 邊緣部署:提供針對 Apple Silicon Mac、Android 與 iOS 的專用指南,使用 LEAP Edge SDK。
- 瀏覽器端 AI:提供透過 WebGPU 在本地執行推理與視覺模型的範例。
- 進階訓練:提供關於持續預訓練與強化學習(GRPO)的教學,適用於可驗證任務。
相關
- 專案
- 專案
- Dispatch
- 專案
- 專案