Stanford CS229 Lecture 11 (2026年春): 확산 모델 – 핵심 개념 및 훈련

TL;DR

확산 모델은 고정된 가우시안 노이즈 프로세스를 역전시키는 학습을 통해 고품질 이미지를 생성하며, GANs와 VAEs보다 성능이 우수하고 ELBO 스타일 손실로 훈련되며, 이때 중간 노이즈 이미지를 잠재 변수로 취급한다.

목표: 자연 이미지 데이터셋(분포 (p_{data}))이 주어졌을 때, 훈련 세트와 구별할 수 없는 새로운 이미지를 샘플링할 수 있는 생성 모델 (p_\theta)를 학습한다.
핵심 아이디어: 순수 가우시안 노이즈 (x_T)에서 시작하여 학습된 역 마르코프 체인 (p_\theta(x_{t-1}\mid x_t))를 이용해 반복적으로 디노이징하여 깨끗한 이미지 (x_0)를 생성한다.
중요성: 이 접근 방식은 더 안정적인 훈련과 높은 샘플 충실도를 제공함으로써 GANs 및 변형 자동 인코더(VAEs)를 대체하는 dominante 이미지 생성 기술이 된다.

순방향 프로세스 (q)는 고정되어 있으며 작은 단계에서 가우시안 노이즈를 추가합니다: [ x_t = \sqrt{1-\eta_t},x_{t-1} + \sqrt{\eta_t},\epsilon_t,\quad \epsilon_t \sim \mathcal N(0, I) ]
(\eta_t)는 (10^{-2})부터 (10^{-4}) 사이의 작은 스칼라(예시)이며, (t=1)부터 (T)까지 반복하면 (T)가 커질수록 표준 정규 분포로 수렴하는 분포를 얻습니다.
누적 곱 (\bar\alpha_t = \prod_{i=1}^t (1-\beta_i))는 원본 이미지의 신호를 축소하며, (t\to\infty)일 때 (\bar\alpha_t\to0)이고 (x_T)는 순수 가우시안 노이즈가 됩니다.

역방향 동역학은 학습됩니다: 신경망 (\mu_\theta(x_t, t))가 가우시안 분포 (p_\theta(x_{t-1}\mid x_t) = \mathcal N(\mu_\theta(x_t, t), \sigma_t^2 I))의 평균을 예측합니다.
분산 (\sigma_t^2)는 일반적으로 학습되지 않고(전방 스케줄에서 유도됨) 고정됩니다.
순방향 프로세스는 (x_{t-1})가 주어지면 결정적이지만, 역방향은 동일한 노이즈 상태 (x_t)로 이어질 수 있는 여러 순방향 경로가 존재하기 때문에 확률적이어야 합니다. 따라서 가우시안이 자연스러운 선택이며, 연속 시간 한계에서 진정한 역방향 프로세스가 확률적으로 가우시임이 입증됩니다(확률 미분 방정식의 고전적 결과).

잠재 변수 관점: 관측된 깨끗한 이미지 (x_0)에 대한 잠재 변수 (z)로 전체 노이즈 경로 (x_{1:T})를 취급합니다.
ELBO 유도: [ \log p_\theta(x_0) \ge \mathbb E_{q(x_{1:T}\mid x_0)}\big[\log p_\theta(x_{0:T}) - \log q(x_{1:T}\mid x_0)\big] ] 이는 참 순방향 조건부 (q(x_{t-1}\mid x_t, x_0))와 학습된 역방향 조건부 (p_\theta(x_{t-1}\mid x_t)) 사이의 KL 발산의 합과 (x_0)에 대한 재구성 항으로 확장됩니다.
KL의 체인 규칙: 마르코프 속성을 이용해 joint 경로 간의 KL은 각 단계에서 두 가우시안을 비교하는 per‑step KL의 합으로 분해됩니다. per‑step 손실은 예측된 평균 (\mu_\theta)와 분석적으로 알려진 사후 평균 \(\tilde\mu_t(x_t, x_0)) 사이의 가중 제곱 오류로 단순화됩니다.
실제 손실: 대부분의 구현은 간소화된 노이즈 예측 손실을 사용합니다: [ L_t = \|\epsilon_t - \epsilon_\theta(x_t, t)\|^2, ] 여기서 (\epsilon_\theta)는 주입된 노이즈를 예측합니다. 이는 상수 차이를 제외하고 KL 기반 ELBO와 수학적으로 동등합니다.

(x_T)를 직접 (x_0)로 매핑하려면 모든 정보를 한 단계에서 축소하는 altamente 비선형 함수를 학습해야 하며, 이는 최적화를 어렵게 만듭니다.
점진적인 다단계 역방향 체인은 더 부드러운 그래디언트와 잘 동작하는 목표를 제공하며, 이는 커리큘럼 학습의 이점과 유사합니다.

GANs/VAEs: 둘 다 적대적 또는 인코더‑디코더 훈련이 필요합니다. 확산 모델은 적대적 불안정을 피하고 학습된 인코더가 필요 없으며, 순방향 프로세스는 분석적으로 정의됩니다.
자기회귀 모델: 확산 추론은 특정 타임스텝에 대해 모든 픽셀(또는 패치)에 걸쳐 병렬화될 수 있으며, 이는 엄격하게 순차적인 자기회귀 샘플링에 비해 잠재적인 속도 장점을 제공합니다.
언어 및 로봇: 최근 연구에서는 토큰 시퀀스나 행동 경로를 연속 데이터로 취급하고 동일한 순방향‑역방향 프레임워크를 적용하여 확산을 텍스트 생성 및 로봇 행동 계획으로 확장했습니다.

(\Delta t \to 0)의 극한에서 순방향 프로세스는 확률 미분 방정식(SDE)이 됩니다: [ d x_t = -\frac{1}{2}\beta(t) x_t\,dt + \sqrt{\beta(t)}\,dW_t, ] 여기서 (W_t)는 브라운 운동입니다.
역방향 SDE는 동일한 확산 항을 가지지만, 드리프트는 점수 함수 (\nabla_{x_t}\log p_t(x_t))에 의존합니다. 신경망을 사용하여 드리프트를 매개변수화하면 이산 시간 역방향 체인을 복구합니다.

모델 아키텍처: 일반적으로 U‑Net 또는 트랜스포머 기반 백본이 각 타임스텝에 대해 (\epsilon_\theta)를 예측합니다.
훈련 스케줄: 초기에는 신호 보존을, 후에는 빠른 확산을 균형 있게 유지하는 선형 또는 코사인 형태의 노이즈 스케줄 (\beta_1\dots\beta_T)를 선택합니다.
샘플링 속도: 최근 연구에서는 더 나은 스케줄을 학습하거나 증류를 사용하여 역방향 단계 수를 수천에서 4~10 정도로 줄였지만, 원래 formulation은 수천 단계를 사용합니다.
구현 자료: Stanford의 강의 노트(영상 설명에 linked 링크)는 전체 유도와 의사코드를 포함합니다.

이 글은 Stanford CS229 2026年春 확산 모델 강의 transcript를 따릅니다. 모든 방정식과 주장은 강사의 exposition에서 직접 가져왔으며, 외부 사실은 추가되지 않았습니다.