Apertus 1.5 릴리스 노트

개요

Apertus 1.5는 Apertus 1.0 모델 시리즈의 중요한 업데이트로, 8B 및 70B 파라미터 모델에 네이티브 멀티모달 이해 능력, 262,144 토큰의 컨텍스트 윈도우, 그리고 향상된 추론을 위한 선택적 사고 모드(thinking mode)를 추가했습니다. Apache 2.0 라이선스로 출시된 이번 업데이트에는 오픈 가중치, 학습 데이터, 그리고 포괄적인 연구 문서가 포함되어 있습니다.

주요 개선 사항

• 멀티모달 이해: 모델은 이제 초기 융합(early-fusion) 방식을 사용하여 텍스트와 함께 이미지 및 오디오를 네이티브로 처리합니다. 이미지는 Emu3.5 토크나이저를 통해 처리되며, 오디오는 WavTokenizer로 처리됩니다.
• 사고 모드(Thinking Mode): 선택적 모드를 통해 모델이 최종 답변을 제공하기 전에 추론 과정을 생성할 수 있으며, 이는 복잡한 추론 작업에서 성능을 크게 향상시킵니다.
• 확장된 컨텍스트: 컨텍스트 윈도우가 262,144 토큰으로 증가하여 이전 세대 대비 4배 향상되었습니다.
• 지시사항 및 도구 사용: 학습 파이프라인의 개선을 통해 지시사항 준수 능력이 향상되었으며 외부 도구 및 API와의 통합이 더욱 안정화되었습니다.
• 투명성: 모델은 Apertus 헌장을 준수하며, 모든 학습 데이터는 투명성과 규정 준수를 위해 문서화되어 있습니다.

학습 파이프라인

Apertus 1.5 학습 과정은 지속적인 사전 학습과 다단계 사후 학습 파이프라인으로 구성됩니다. 사전 학습 단계에서는 텍스트, 이미지, 오디오 데이터를 혼합하여 8B 모델에 4조 개의 토큰을, 70B 모델에 2조 개의 토큰을 추가했습니다.

사후 학습은 다섯 가지 단계로 나뉩니다:

1. 지도 미세 조정 (SFT): 370만 개의 텍스트 샘플과 멀티모달 데이터를 사용한 학습.
2. 긴 컨텍스트 SFT: 전체 262k 토큰 윈도우에서의 최적화.
3. 검증 가능한 보상을 통한 강화 학습 (RLVR): 수학, 코드, 추론 프롬프트에 대한 타겟 학습.
4. 직접 선호도 최적화 (DPO): 평가자가 점수를 매긴 선호도 쌍을 사용하여 대화 품질 및 안전성 향상.
5. 헌장 정렬 (SDPO): 모델 출력을 Apertus 헌장에 맞추기 위한 자기 증류(Self-distillation).

평가 및 재현성

Apertus 1.5는 투명하고 기계가 읽을 수 있는 평가 기록을 제공하기 위해 Every Eval Ever (EEE) 스키마를 활용합니다. 이 접근 방식은 성능 점수와 함께 상세한 메타데이터를 제공함으로써 EU AI 법과 같은 AI 거버넌스 요구 사항을 충족하는 것을 목표로 합니다. 이 모델들은 유사한 규모의 다른 오픈 가중치 모델들과 비교했을 때 코딩, 지시사항 준수, 다국어 작업에서 경쟁력 있는 성능을 보여줍니다.

상세한 레시피, 절제 연구(ablations), 중간 체크포인트는 공식 Apertus Hugging Face 컬렉션을 통해 제공되며, 연구자들이 학습 결과를 재현하고 각 단계가 모델 동작에 미치는 영향을 조사할 수 있도록 지원합니다.