Lakonik/LakonLab

Official implementation of AsymFlow, pi-Flow, GMFlow

What it solves

LakonLab 提供了一個用於實驗與訓練大型擴散模型的高性能框架。它特別針對高效的幾步圖像生成與編輯需求，透過實現先進的流匹配技術，減少了生成高品質圖像所需的採樣步數。

How it works

該代碼庫實現了三個主要的研發項目：

  • AsymFlow: 用於圖像生成的非對稱流模型。
  • pi-Flow: 一種基於策略的模仿蒸餾方法，可實現幾步生成（例如，針對 FLUX 和 Qwen-Image 的 4 步採樣）。
  • GMFlow: 高斯混合流匹配模型。

為了支持這些功能，LakonLab 包含了性能優化，例如 DDP、FSDP 和 FSDP2 之間的無縫切換，用於節省記憶體的 LoRA 微調權重綁定（weight tying），以及用於靈活採樣的先進流 SDE 解算器（FlowSDEScheduler 和 FlowMapSDEScheduler）。

Who it’s for

它專為從事大型擴散模型的 AI 研究人員與開發者設計，特別是那些對流匹配、用於加速推理的蒸餾技術，以及高性能訓練基礎設施感興趣的人士。

Highlights

  • Few-Step Generation: 為 FLUX.1 和 FLUX.2 等模型實現了僅需 4 步即可生成高品質圖像的能力。
  • Infrastructure Optimizations: 支持梯度累積、混合精度與靈活的分佈式訓練（DDP/FSDP）。
  • Flexible I/O: 原生支持從 HuggingFace、HTTP/HTTPS URLs 和 AWS S3 加載檢查點（checkpoints）。
  • Comprehensive Evaluation: 集成了對 FID、KID、IS 和 CLIP similarity 的標準指標，以及 GenEval 和 DPG-Bench 等外部基準測試的集成支持。