Liquid4All/cookbook

解決する問題

このリポジトリは、開発者が Liquid AI のオープンウェイト Liquid Foundation Models (LFMs) と LEAP SDK を、ラップトップ、モバイルデバイス、エッジハードウェアなどのさまざまなプラットフォームに展開およびカスタマイズするのに役立つ、包括的な例、チュートリアル、アプリケーションのコレクションを提供します。

仕組み

このクックブックは、実装パターンをいくつかのカテゴリに整理しています。

• プラットフォーム固有のアプリ：デスクトップ (Python/CLI)、ブラウザ (WebGPU/ONNX Runtime Web)、モバイル (Android 用 Kotlin、iOS 用 Swift) アプリケーション向けのすぐに使えるコード。
• 微調整パイプライン：Unsloth、TRL、Halo などのフレームワークを使用して、テキスト、ビジョン、オーディオモデルに対して教師あり微調整 (SFT)、直接選好最適化 (DPO)、グループ相対方策最適化 (GRPO) を実行する Colab ノートブックとスクリプト。
• 展開ガイド：画像理解や臨床データ解釈などの特定のモデル機能を示すステップバイステップのノートブック。
• 統合例：RAG アプリからオンデバイス音声アシスタントまで、LFMs がサードパーティおよびコミュニティ構築プロジェクトにどのように統合されるかの紹介。

対象読者

デバイス上またはエッジで小型で効率的な言語モデルを実装したい AI 開発者やエンジニア、および衛星画像、音声文字起こし、医療データなどの専門分野向けにこれらのモデルを微調整したい人を対象としています。

ハイライト

• クロスプラットフォームサポート：ネイティブ iOS/Android アプリ、WebGPU ブラウザアプリ、デスクトップ CLI ツールの例。
• マルチモーダル機能：ビジョン言語モデル (VLM)、音声からテキストへの文字起こし、テキストベースの推論の実装。
• 高度なトレーニング技術：メモリ効率の高い微調整 (LoRA)、強化学習 (GRPO)、FTPO による「ドゥームループ」の排除に関するチュートリアル。
• エッジファーストの焦点：プライバシーを確保し、モバイルおよびエッジデバイスでの遅延を減らすためのローカル推論を重視。