Palette: 소형 모델에게 디자인 언어에 맞춰 슬라이드 덱을 제작하도록 학습시키기

개요

Palette는 특정 디자인 언어를 엄격하게 준수하는 슬라이드 덱을 생성하도록 설계된 20B 오픈 웨이트 모델입니다. 이는 최신 모델들이 일반적인 스타일로 기본 설정되는 경향과 민감한 데이터의 개인정보 보호 요구 사항을 해결합니다. 생성 과정을 디자이너와 코더라는 별도의 역할로 분리하고 생성 후 검증 하네스를 활용함으로써, Palette는 최종 출력물에 대한 제어력을 유지하면서 PresentBench 벤치마크에서 경쟁력 있는 성능을 달성합니다.

디자이너-코더 아키텍처

Palette는 슬라이드 제작이라는 복잡한 작업을 두 개의 순차적인 역할로 분해하며, 두 역할 모두 단일 LoRA 적응형 모델이 처리합니다. 이 접근 방식은 인간의 워크플로우를 모방합니다:

디자이너: 초기 계획을 읽고 디자인 근거, 팔레트, 타이포그래피, 슬라이드별 콘텐츠가 포함된 구조화된 JSON 브리프를 생성합니다.
코더: 브리프를 받아 슬라이드를 렌더링하기 위한 pptxgenjs JavaScript 코드를 생성합니다.

편집적 판단(무엇을 보여줄 것인가)과 기하학적 실행(어떻게 배치할 것인가)을 분리함으로써, 모델은 도형 겹침이나 텍스트 넘침과 같은 일반적인 오류를 방지합니다. 브리프가 먼저 생성되기 때문에 코더는 각 슬라이드를 병렬로 처리할 수 있으며, 이는 순차적 생성 대비 6~7배의 속도 향상을 가져옵니다.

데이터 합성 및 학습

디자인 근거를 슬라이드 코드로 매핑하는 공개 데이터셋이 없기 때문에, 연구팀은 더 큰 교사 모델을 사용하여 1,000개의 덱(약 10,000개의 슬라이드)을 생성했습니다. 주요 학습 전략은 다음과 같습니다:

반사실적 추론: 학습 데이터에는 특정 디자인 선택이 이루어진 이유와 대안이 거부된 이유가 포함되어 있어, 모델이 단순히 출력물을 모방하는 것이 아니라 규칙을 학습하도록 돕습니다.
참조 기반 스티어링: 연구팀은 프롬프트에 참조 덱을 제공하는 것이 엄격한 규칙 기반 지침을 추가하는 것보다 충실도를 보장하는 데 더 효과적임을 발견했습니다.
LoRA 파인튜닝: LoRA를 사용함으로써 연구팀은 기본 모델의 기존 기능을 저하시키지 않으면서 특정 형식과 기술 세트를 모델에 학습시킬 수 있었습니다.

검증 및 수정 하네스

신뢰성을 보장하기 위해 Palette는 최종 전달 전에 모든 생성된 출력물을 검증 하네스를 통과시킵니다. 하네스는 다음 단계를 수행합니다:

규칙 기반 검증: 잘못된 코드나 구문 오류를 수정합니다.
기하학적 검사: 슬라이드를 렌더링하여 텍스트 겹침, 잘림 또는 넘침을 감지합니다.
자동 수정: 슬라이드에 문제가 표시되면 편집기 모델이 재작성을 시도합니다. 검사기가 슬라이드가 개선되었음을 확인한 경우에만 수정 사항이 적용되어, 하네스가 출력물을 더 나쁘게 만들 수 없도록 보장합니다.

이 하네스는 131개 덱의 점수를 평균 3.5점 향상시켰습니다.

성능 및 평가

Palette는 기본 원칙, 시각적 디자인, 완성도, 정확성 및 충실도를 측정하는 PresentBench 데이터셋에서 평가되었습니다.

순위: Palette는 '경제' 및 '교육' 분야에서 1위를 차지했으며, 측정된 3개 분야 전체에서 2위를 기록하여 최고 성능 모델과 1.1점 차이(59.7 대 60.8)를 보였습니다.
제어: 이 모델은 사용자가 정의한 '지시어'(예: [[make this a timeline]])를 지원하여, 사용자가 수동 레이아웃 조정 없이도 디자인 선택을 유도할 수 있도록 합니다.

향후 방향

Palette의 향후 개발은 생성 단계에서 오류를 줄이기 위해 현재의 검증 신호를 강화 학습(특히 GRPO 스타일 학습)의 보상으로 사용하는 데 중점을 둡니다. 또한 연구팀은 Docling과 같은 도구를 사용하여 원본 문서에서 수치를 추출하는 방법과 전체 모델 재학습 없이 기존 PowerPoint 템플릿을 '재스킨(re-skin)'하는 기술을 개발하고 있습니다.