NVlabs/FastGen

What it solves

FastGen は拡散モデルの生成プロセスを高速化するために設計されています。さまざまな加速・蒸留手法を統一的に適用できるフレームワークを提供し、生成モデルが高品質な出力をより速く生成できるようにします。10B パラメータを超える大規模モデルのトレーニングもサポートします。

How it works

このフレームワークはネットワーク・データに依存せず、ユーザーが独自のアーキテクチャやデータセットを組み込むことができます。以下のような幅広い蒸留・トレーニング手法を実装しています。

• Consistency Models (CM, sCM, TCM, MeanFlow)
• Distribution Matching (DMD2, f-Distill, LADD, CausVid, Self-Forcing)
• Fine‑Tuning (SFT, CausalSFT)
• Knowledge Distillation (KD, CausalKD)

PyTorch をベースにしており、DDP と FSDP2 による分散学習をサポートし、巨大モデルのシャーディングが可能です。

Who it’s for

生成 AI に取り組む AI 研究者・開発者、特に拡散ベースの画像・動画生成（T2I、I2V、V2V）を高速化したい方々向けです。

Highlights

• Broad Modality Support: テキストから画像、画像から動画、動画から動画へのタスクすべてに対応。
• Extensive Method Library: 多種多様な蒸留・加速アルゴリズムを網羅。
• Large‑Scale Capability: FSDP2 を用いて 100 億パラメータ以上のモデルの学習が可能。
• Flexible Architecture: 特定のネットワークやデータセットに依存せず、SDXL、Flux、CogVideoX などのモデルを標準でサポート。