Lakonik/LakonLab

Official implementation of AsymFlow, pi-Flow, GMFlow

What it solves

LakonLab は、大規模な拡散モデルの実験とトレーニングのための高性能なフレームワークを提供します。特に、高度なフローマッチング技術を実装することで、高品質な画像を生成するために必要なサンプリングステップ数を削減し、効率的な数ステップでの画像生成と編集のニーズに応えます。

How it works

このコードベースは、主に 3 つの研究プロジェクトを実装しています：

  • AsymFlow: 画像生成のための非対称フローモデル。
  • pi-Flow: 数ステップ生成を可能にするポリシーベースの模倣蒸留法（例：FLUX や Qwen-Image 用の 4 ステップサンプリング）。
  • GMFlow: ガウス混合フローマッチングモデル。

これらをサポートするために、LakonLab は、DDP、FSDP、FSDP2 の間のシームレスな切り替え、メモリを節約するための LoRA ファインチューニング用の重み共有（weight tying）、および柔軟なサンプリングのための高度なフロー SDE ソルバー（FlowSDEScheduler と FlowMapSDEScheduler）などの性能最適化を含んでいます。

Who it’s for

大規模な拡散モデルに取り組む AI 研究者や開発者、特にフローマッチング、高速推論のための蒸留、および高性能なトレーニングインフラストラクチャに関心がある方向けに設計されています。

Highlights

  • Few-Step Generation: FLUX.1 や FLUX.2 のようなモデルで、わずか 4 ステップで高品質な画像生成を可能にします。
  • Infrastructure Optimizations: 勾配累積、混合精度、および柔軟な分散トレーニング（DDP/FSDP）をサポートします。
  • Flexible I/O: HuggingFace、HTTP/HTTPS URLs、および AWS S3 からのチェックポイントのロードをネイティブにサポートします。
  • Comprehensive Evaluation: FID、KID、IS、および CLIP similarity の標準的な指標、および GenEval や DPG-Bench などの外部ベンチマークの統合サポートを提供します。