haidog-yaqub/MeanFlow

해결하는 문제

MeanFlow는 고품질 원스텝 생성 모델링에 대한 요구를 해결합니다. 기존의 생성 모델은 고품질 이미지를 생성하기 위해 여러 번의 반복 단계를 거쳐야 하는 경우가 많아 속도가 느릴 수 있습니다. 이 프로젝트는 단일 단계로 결과를 생성할 수 있는 모델을 학습하기 위한 프레임워크를 제공합니다.

작동 방식

이 프로젝트는 MeanFlow 및 Improved MeanFlow (iMF) 연구 논문의 PyTorch 구현입니다. 한 헤드는 MeanFlow 계산을 처리하고 다른 헤드는 플로우 매칭(flow matching)을 관리하는 듀얼 헤드 Diffusion Transformer (DiT) 아키텍처를 사용합니다. 이 프레임워크는 Classifier-Free Guidance (CFG) 증류를 지원하여 사용자가 스케일 파라미터를 통해 생성 품질을 제어할 수 있게 합니다. MNIST, CIFAR-10, 잠재 ImageNet을 포함한 다양한 데이터셋에 대한 구성 기반 학습을 포함합니다.

대상 사용자

이 저장소는 원본 JAX 기반 코드보다 PyTorch 구현을 선호하는 빠른 생성 모델링 연구자 및 개발자를 위한 것입니다. 이미지, 오디오 또는 음성 변환 작업에 대한 원스텝 생성을 실험하려는 분들에게 적합합니다.

주요 특징

• 원본 MeanFlow와 더 안정적인 Improved MeanFlow (iMF) 모두 구현.
• Hugging Face Accelerate를 통한 단일 GPU 및 다중 GPU 학습 지원.
• 생성 제어 향상을 위한 Classifier-Free Guidance (CFG) 포함.
• 다양한 데이터셋으로 쉽게 실험할 수 있는 모듈식 구성 시스템 제공.
• VAE를 사용한 잠재 이미지 학습과 호환 가능.