Lakonik/LakonLab

Official implementation of AsymFlow, pi-Flow, GMFlow

What it solves

LakonLab 提供了一个用于实验与训练大型扩散模型的高性能框架。它特别针对高效的几步图像生成与编辑需求,通过实现先进的流匹配技术,减少了生成高质量图像所需的采样步数。

How it works

该代码库实现了三个主要的研发项目:

  • AsymFlow: 用于图像生成的非对称流模型。
  • pi-Flow: 一种基于策略的模仿蒸馏方法,可实现几步生成(例如,针对 FLUX 和 Qwen-Image 的 4 步采样)。
  • GMFlow: 高斯混合流匹配模型。

为了支持这些功能,LakonLab 包含了性能优化,措施,例如 DDP、FSDP 和 FSDP2 之间的无缝切换,用于节省内存的 LoRA 微调权重绑定(weight tying),以及用于灵活采样的先进流 SDE 解算器(FlowSDEScheduler 和 FlowMapSDEScheduler)。

Who it’s for

它专为从事大规模扩散模型的 AI 研究人员与开发者设计,特别是在流匹配、用于加速推理的蒸馏技术,以及高性能训练基础设施方面感兴趣的人士。

Highlights

  • Few-Step Generation: 为 FLUX.1 和 FLUX.2 等模型实现了仅需 4 步即可生成高质量图像的能力。

  • Infrastructure Optimizations: 支持梯度累积、混合精度和灵活的分布式训练(DDP/FSDP)。

  • Flexible I/O: 原生支持从 HuggingFace、HTTP/HTTPS URLs 和 AWS S3 加载检查点(checkpoints)。

  • Comprehensive Evaluation: 集成了对 FID、KID、IS 和 CLIP similarity 的标准指标,以及 GenEval 和 DPG-Bench 等外部基准测试的集成支持。