worldbench/DanceOPD

해결하는 문제

DanceOPD는 이미지 생성 모델의 '기능 간섭' 문제를 해결합니다. 텍스트-이미지 생성, 로컬 편집, 전역 스타일 변환과 같은 여러 능력을 단일 모델로 결합하려고 할 때, 하나를 개선하면 다른 하나가 저하되는 경우가 많습니다. DanceOPD는 작업별 학습 코드나 복잡한 보상 모델 없이도 이러한 다양한 기능을 하나의 소형 학생 모델로 합성하는 방법을 제공합니다.

작동 방식

이 시스템은 각 기능을 고정된 교사 모델이 제공하는 '속도 필드'로 취급합니다. 학습 중에 학생 모델은 롤아웃(상태 생성)을 수행하고, 시스템은 해당 특정 상태에서 올바른 속도를 얻기 위해 대응하는 교사 모델에 쿼리합니다. 그런 다음 학생 모델은 단순한 속도 MSE 목표를 사용하여 교사의 출력과 일치하도록 업데이트됩니다.

주요 기술적 특징은 다음과 같습니다:

• 온폴리시 필드 쿼리 (On-policy field query): 교사는 오프라인 데이터가 아닌 현재 학생이 실제로 방문한 상태를 감독합니다.
• 하드 라우팅 매칭 (Hard-routed matching): 각 학습 샘플은 의미적으로 유효한 단일 교사에게 정확히 할당되어, 서로 다른 기능의 모호한 평균화를 방지합니다.
• 시맨틱 사이드 쿼리 (Semantic-side query): 기본적으로 효율성을 유지하기 위해 롤아웃당 단일 저노이즈 쿼리 상태를 사용합니다.
• 백엔드 확장성: SD3.5 및 Z-Image를 포함한 여러 플로우 매칭 백본을 지원합니다.

대상 사용자

이 프로젝트는 고품질 편집 및 프롬프트 준수와 같은 여러 전문 기능을 단일 배포 모델로 병합하려는 플로우 매칭 이미지 생성기를 다루는 AI 연구원 및 개발자를 위한 것입니다.

주요 특징

• 기능 융합: T2I, 로컬 편집, 전역 편집을 단일 소스로 붕괴되지 않고 성공적으로 결합합니다.
• 효율적인 롤아웃: query_prefix 모드가 포함되어 있어 롤아웃 포워드 패스를 최대 31.7%까지 줄일 수 있습니다.
• 단순한 목표: 직접적인 속도 MSE를 사용하여 적대적 비평가나 보상 모델이 필요 없습니다.
• 유연한 학습: danceopd(단일 쿼리 ODE), diffusionopd(밀집 ODE-KL), flowopd(SDE + PPO)의 세 가지 방법을 제공합니다.