양자화 인식 치유를 통해 4비트 LLM이 전체 정밀도 원본을 능가하게 됨

TL;DR

양자화 인식 치유(QAH)는 120B 파라미터 GPT-OSS 모델을 60B 파라미터와 4비트 MXFP4 정밀도로 압축하며, 9개 벤치마크 중 7개에서 전체 정밀도 bfloat16 버전보다 뛰어난 성능을 보여, 4비트 모델이 더 저렴하면서도 더 정확할 수 있음을 입증한다.

구조적 압축 후 기존 치유 방법의 한계

  • 기존 파이프라인은 아키텍처를 압축하고, 가중치를 양자화한 후 치유 단계를 적용한다.
  • 양자화 인식 학습(QAT) 은 가짜 양자화 연산자를 추가하고 작업 손실 기반으로 미세 조정한다. 이는 비용이 많이 들며, 최적점 이후 학습이 계속되면 불안정해질 수 있다.
  • 양자화 인식 증류(QAD) 는 KL-분산을 사용해 전체 정밀도 교사 모델을 양자화된 학습자 모델로 증류한다. 하지만 이 방법은 교사와 학습자가 동일한 아키텍처를 공유할 때만 작동한다. 구조적 압축 후에는 더 작은 아키텍처의 전체 정밀도 버전이 존재하지 않기 때문에, 교사는 복구된 저품질 체크포인트가 되어 성능 한계를 정한다.
  • 결과적으로, 구조적 압축과 양자화가 모두 적용된 모델을 치유할 수 있는 방법이 부족했다.

양자화 인식 치유(QAH) 조리법

  • QAH는 원본 압축 전 모델(120B 교사)에서 압축된 4비트 학습자로 직접 증류한다. 두 모델은 서로 다른 아키텍처를 가졌지만도 말이다.
  • 학습자는 교사의 출력 분포만 받으며, 이는 로짓에 대해 KL-분산으로 매칭된다. 하드 레이블은 사용되지 않는다.
  • 이는 양자화를 손실이 있는 후처리 단계가 아니라 두 번째 증류 단계로 간주함으로써, 이전 복구 과정에서 놓친 정보를 학습자에게 전달할 수 있게 한다.
  • KL 기반 증류는 안정성을 제공한다: 학습자가 고정된 교사 분포를 일치시키면, 더 이상 흩어지려는 압박이 없으며, 교차 엔트로피 작업 손실과 달리 성능 저하를 유발하지 않는다.
  • 긴 컨텍스트 치유(최대 32k 토큰)를 위해 QAH는 메모리 효율적인 청크 기반 KL-분산 손실을 재사용하여, 고정된 GPU 메모리 예산 내에서 한 번에 하나의 청크씩 처리한다.

QAH 개요: 구조적 압축과 양자화 후 성능이 급격히 떨어진다. QAH는 원본 압축 전 모델을 고정된 교사로 사용하여 성능을 복원하며, 다단계 후 훈련을 다시 거치지 않는다.

그림 1: QAH는 복구된 체크포인트가 아닌 원본 모델에서 증류함으로써 성능을 복원한다.

60B 파라미터 4비트 모델에 대한 실증 결과

QAH 파이프라인은 120B GPT-OSS 모델을 60B 파라미터로 압축하고, bfloat16으로 복구한 후 다시 MXFP4로 재양자화한 모델에 적용했다. 성능은 동일한 60B bfloat16 체크포인트와 원본 120B 교사와 비교되었다.

벤치마크 120B 교사(MXFP4) 60B BF16(복구됨) 60B MXFP4(QAH) QAH vs BF16
AA-LCR(긴 컨텍스트 추론) 50.0 35.3 42.7 +7.4
AIME 2025(수학) 80.0 70.7 76.3 +5.6
Aider(업무형 코딩) 45.3 38.2 40.9 +2.7
τ²-bench(도구 사용) 68.4 59.4 61.7 +2.3
GPQA Diamond(과학) 69.0 65.7 67.4 +1.7
IFBench(지시 따르기) 63.3 58.4 59.9 +1.5
LiveCodeBench(코딩) 66.0 65.5 66.5 +1.0
MMLU-Pro(지식) 78.0 74.0 73.8 –0.2
SciCode(과학 코딩) 37.5 35.6 34.2 –1.4
  • 4비트 QAH 모델은 9개 벤치마크 중 7개에서 자체 bfloat16 소스보다 뛰어난 성능을 보였다.
  • 압축으로 인해 가장 큰 피해를 입은 작업에서 성과가 가장 크다: 긴 컨텍스트 추론(+7.4), 수학(+5.6).
  • 원본 120B 교사와 비교했을 때, QAH 모델은 LiveCodeBench에서 성능을 매칭하거나 초과했으며, GPQA Diamond에서는 1.6점 이내로 유지했다. 파라미터 수는 절반, 가중치 메모리 사용량은 약 4분의 1에 불과하다.

세 체크포인트의 벤치마크 성능: 원본 GPT-OSS-120B 교사(MXFP4), 압축 및 복구된 60B 모델(bfloat16), 동일한 60B 모델을 QAH로 재양자화한 결과, 9개 벤치마크에서 비교됨.

그림 2: QAH 모델은 대부분의 벤치마크에서 bfloat16 소스를 매칭하거나 능가하며, 전체 크기 교사와 경쟁적으로 성능을 보인다.

QAH vs. QAT: 속도와 안정성 비교

  • 실험: GPT-OSS 9B 모델을 MXFP4로 양자화하고, QAH 또는 QAT로 학습.
  • 정점 정확도: QAH는 54.9, QAT는 54.6 – 거의 동일.
  • 학습 효율성: QAH는 약 100단계 후 정점에 도달(약 QAT의 7배 빠름, QAT는 약 700단계).
  • 안정성: QAH는 1,200단계까지 정점에서 약 2점 이내로 유지; QAT는 정점 이후 붕괴되어 약 19점 감소.
  • 실용적 영향: QAT는 성능 저하를 피하기 위해 조기 중단이 필요하지만, 완전히 학습된 QAH 체크포인트는 드리프트 없이 안전하게 배포할 수 있다.

QAH와 QAT의 평균 성능 변화 추이: GPT-OSS 9B를 MXFP4로 양자화할 때. QAH는 조기에 정점에 도달하고 안정성을 유지하며, QAT는 비교 가능한 정점에 늦게 도달한 후 붕괴된다.

그림 3: QAH는 빠른 수렴과 안정성을 달성했으며, QAT는 정점 이후 성능 저하를 보인다.

배포에 대한 실용적 함의

  • 메모리 효율성: 4비트 정밀도는 bfloat16 대비 가중치 메모리 사용량을 약 4배 줄인다.
  • 계산량 감소: 파라미터 수를 절반으로 줄이면 토큰당 계산량도 약 절반으로 줄어든다. 4비트 정밀도와 결합하면, 전체 계산 비용은 bfloat16 기준 대비 최대 8배까지 낮아질 수 있다.
  • 비용-성능 트레이드오프: QAH로 훈련된 4비트 모델은 더 높은 정확도를 제공하면서도 더 작은 하드웨어를 요구하여, 양자화를 성능 세금이 아닌 추가 학습 신호로 전환한다.
  • 워크플로우 단순화: QAH는 양자화 후 다단계 후 훈련 파이프라인(감독 미세 조정, RLHF, 업무형 조정)을 다시 실행할 필요 없이 제거하여 시간과 계산 자원을 절약한다.

미래 방향성

  • 이 방법은 대규모 모델을 더 저렴하게 만들면서 성능을 훼손하지 않는 Multiverse Computing의 포괄적 노력의 일부이며, 긴 컨텍스트 훈련을 위한 효율적인 지식 증류 기술과 보완된다.
  • 열린 질문으로는 QAH를 더 큰 모델에 확장하는 것, 교사-학습자 아키텍처의 대안 탐색, 그리고 희소성 또는 전문가 혼합(MoE)과 같은 다른 효율 기술과의 통합이 있다.

자세한 기술 세부 사항(청크 기반 KL 구현 및 분산 훈련 결과 포함)은 논문에서 확인 가능: https://huggingface.co/papers/2608.20953.

Sources

관련