haidog-yaqub/MeanFlow

解決する課題

MeanFlowは、高品質なワンステップ生成モデリングのニーズに応えます。従来の生成モデルは高品質な画像を生成するために複数の反復ステップを必要とすることが多く、処理が遅くなる可能性があります。本プロジェクトは、単一ステップで結果を生成できるモデルをトレーニングするためのフレームワークを提供します。

仕組み

本プロジェクトは、MeanFlowおよびImproved MeanFlow (iMF) の研究論文のPyTorch実装です。1つのヘッドがMeanFlow計算を処理し、もう1つのヘッドがフローマッチングを管理するデュアルヘッドDiffusion Transformer (DiT) アーキテクチャを使用しています。このフレームワークはClassifier-Free Guidance (CFG) 蒸留をサポートしており、ユーザーはスケールパラメータを介して生成品質を制御できます。MNIST、CIFAR-10、潜在空間のImageNetなど、さまざまなデータセットに対する設定ベースのトレーニングが含まれています。

対象ユーザー

本リポジトリは、オリジナルのJAXベースのコードよりもPyTorch実装を好む、高速な生成モデリングに取り組む研究者や開発者を対象としています。画像、音声、または音声変換タスクのワンステップ生成を試したい方に適しています。

ハイライト

• オリジナルのMeanFlowと、より安定したImproved MeanFlow (iMF) の両方を実装。
• Hugging Face Accelerateを介したシングルGPUおよびマルチGPUトレーニングをサポート。
• 生成制御を向上させるためのClassifier-Free Guidance (CFG) を搭載。
• さまざまなデータセットでの実験を容易にするモジュール式設定システムを提供。
• VAEを使用した潜在画像トレーニングと互換性あり。