Writer Palmyra-mini 패밀리 출시

Writer는 1.5B에서 1.7B 파라미터에 이르는 세 가지 오픈 모델로 구성된 Palmyra-mini 패밀리를 출시했습니다. 이러한 경량 모델은 다양한 생성 및 추론 작업에서 높은 성능과 효율적인 추론을 위해 설계되었습니다.

모델 변형 및 특화

Palmyra-mini 패밀리에는 다양한 운영 요구에 맞게 설계된 세 가지 구별되는 모델이 포함됩니다:

  • palmyra-mini: 생성 작업을 위한 범용 올라운더로 설계된 비추론 기본 모델.
  • palmyra-mini-thinking-a: 복잡한 추론 및 논리에 최적화된 특수 변형으로, Chain of Thought (CoT) 접근법을 사용해 학습되었습니다.
  • palmyra-mini-thinking-b: 수학 방정식 및 고급 문제 해결에 초점을 맞춘 특수 변형으로, 역시 Chain of Thought (CoT) 접근법을 활용합니다.

성능 벤치마크

패밀리의 각 모델은 다양한 벤치마크에서 특정 강점을 보여줍니다:

  • palmyra-mini는 Big Bench Hard (get-answer)(exact_match)에서 52.6% 점수를 달성했습니다.
  • palmyra-mini-thinking-a는 GSM8K (strict match)에서 82.87%를 기록했으며, 릴리스된 다른 모델에 비해 벤치마크 전반에서 가장 높은 평균 점수를 보유하고 있습니다.
  • palmyra-mini-thinking-b는 AMC23에서 92.5%를 기록했으며, 릴리스된 다른 모델에 비해 AIME24, AIME25, GPQA, HMMT25, HLE, MMLU_PRO, MATH500 및 LCB에서 가장 높은 평균 벤치마크 점수를 보유하고 있습니다.

기술 구현 및 아키텍처

Palmyra-mini 패밀리의 모든 모델은 Qwen 아키텍처를 기반으로 하며, vLLM, SGLang, TRTLLM, TGI 등 인기 있는 추론 프레임워크와의 호환성을 보장합니다.

Thinking-B용 기본 모델

palmyra-mini-thinking-b 모델의 경우, 사용된 기본 모델은 nvidia/OpenReasoning-Nemotron-1.5B였습니다. Writer는 이 기본 모델에 강화 학습(RL) 파인튜닝을 적용했으며, 이는 단일 샷 정확도(pass@1)를 향상시켰지만 샘플링 다양성이 감소하여 SFT 기본 모델에 비해 majority@64 성능이 떨어졌습니다.

배포 및 이용 가능성

배포의 편의를 위해 모델은 여러 형식으로 제공됩니다:

  • Standard weights: Hugging Face에서 제공됩니다.
  • Quantizations: GGUF 및 MLX-BF16 양자화가 palmyra-mini, palmyra-mini-thinking-a, palmyra-mini-thinking-b에 제공됩니다.

Sources