OpenAI 일관성 모델 훈련을 위한 개선된 기술

TL;DR

OpenAI는 일관성 훈련을 위한 개선된 기술을 개발했으며, 이를 통해 생성 모델이 사전 학습된 확산 모델로부터의 증류에 의존하지 않고도 한 번의 단계만으로 고품질 데이터를 샘플링할 수 있게 되었습니다. 이 접근 방식은 일관성 모델이 증류된 모델의 품질을 능가하도록 하여, 일관성 모델과 다른 최첨단 생성 모델 간의 격차를 좁힙니다.

직접 데이터 학습 vs. 증류

일관성 모델은 이전에 증류 과정에 의해 제한될 수 있었으며, 모델의 품질이 증류 대상이 되는 사전 학습된 확산 모델에 의존하게 되었습니다. 이를 해결하기 위해 일관성 훈련(CT)에서는 일관성 모델이 데이터를 직접 학습하도록 하여, 확률 흐름 ODE 궤적상의 어느 점이든 원점으로 매핑하도록 학습합니다.

일관성 훈련의 기술적 개선

OpenAI는 일관성 훈련 목표에서 이전에 간과되었던 결함을 식별하고 수정했습니다. 교사 일관성 모델에서 지수 이동 평균(EMA)을 제거함으로써 훈련 과정이 보다 안정적이고 효과적으로 변했습니다.

평가 시 원하지 않는 편향을 초래할 수 있는 LPIPS(학습된 지각 이미지 및 이미지 패치 유사도)와 같은 학습된 메트릭을 대체하기 위해, 견고한 통계에서 파생된 Pseudo‑Huber 손실을 채택했습니다. 이와 같이 견고한 통계 손실 함수로 전환함으로써 학습된 메트릭 접근 방식을 대체합니다.

ile{ 

SUMMARY: OpenAI는 생성 모델이 증류 없이 데이터를 직접 학습하도록 하는 개선된 일관성 훈련 기술을 도입했으며, 이를 통해 CIFAR‑10 및 ImageNet 64×64에서 상당한 FID 점수 향상을 달성했습니다.

TITLE: OpenAI 일관성 모델 훈련을 위한 개선된 기술