Mistral 3 릴리스 노트: Mistral Large 3 및 Ministral 3 제품군

Mistral AI는 고용량 Mistral Large 3와 엣지 중심의 Ministral 3 시리즈를 포함하는 차세대 모델인 Mistral 3를 발표했습니다. 이번 릴리스의 모든 모델은 분산 지능과 개발자 커스터마이징을 지원하기 위해 Apache 2.0 라이선스로 제공됩니다.

Mistral Large 3: 프론티어 오픈 웨이트 성능

Mistral Large 3는 총 675B 파라미터와 41B 활성 파라미터를 특징으로 하는 희소 전문가 혼합(sparse mixture-of-experts, MoE) 모델입니다. 3,000개의 NVIDIA H200 GPU에서 처음부터 학습된 이 모델은 일반적인 프롬프트에 대해 선도적인 지시어 튜닝된 오픈 웨이트 모델들과 대등한 성능을 달성하도록 설계되었습니다.

주요 기능 및 벤치마크는 다음과 같습니다:

  • LMArena 순위: Mistral Large 3는 LMArena 리더보드에서 OSS 비추론 모델 카테고리 #2위, 전체 OSS 모델 중 #6위를 기록하고 있습니다.
  • 멀티모달 및 다국어 지원: 이 모델은 이미지 이해 능력을 보여주며, 영어와 중국어를 제외한 기타 언어의 다국어 대화에서 업계 최고 수준의 성능을 발휘합니다.
  • 가용성: 베이스(base) 및 지시어 튜닝(instruction fine-tuned) 버전이 오늘 출시되었으며, 추론(reasoning) 버전은 향후 출시될 예정입니다.

Ministral 3: 엣지 최적화 지능

The Ministral 3 시리즈는 로컬 및 엣지 배포를 위한 최첨단 성능 대비 비용 효율을 제공합니다. 이 제품군은 3B, 8B, 14B 파라미터의 세 가지 모델 크기로 구성됩니다.

각 크기별로 Mistral AI는 세 가지 변형을 출시했습니다:

  • Base: 기본적인 사전 학습된 모델.
  • Instruct: 지시 사항 준수에 최적화되었습니다. 이 모델들은 유사한 모델들과 대등하거나 더 뛰어난 성능을 보이면서도 종종 10배 더 적은 토큰을 생성합니다.
  • Reasoning: 높은 정확도가 필요한 작업에 설계되었으며, 14B 변형은 AIME ’25에서 85%의 정확도를 달성했습니다.

모든 Ministral 3 모델은 네이티브 멀티모달(이미지 이해) 및 다국어 기능을 포함합니다.

하드웨어 최적화 및 생태계 통합

Mistral AI는 Mistral 3가 다양한 하드웨어 환경에서 접근 가능하고 효율적으로 작동할 수 있도록 NVIDIA, vLLM, Red Hat과 협력했습니다.

데이터 센터 및 엔터프라이즈 배포

  • NVFP4 포맷: llm-compressor로 생성된 NVFP4 포맷의 체크포인트는 Mistral Large 3를 Blackwell NVL72 시스템이나 vLLM을 사용하는 단일 8×A100 또는 8×H100 노드에서 효율적으로 실행할 수 있게 합니다.
  • NVIDIA 통합: 모든 Mistral 3 모델은 HBM3e 메모리를 사용하는 NVIDIA Hopper GPU에서 학습되었습니다. NVIDIA는 저정밀도 실행을 가능하게 하기 위해 TensorRT-LLM 및 SGLang에 대한 추론 지원을 제공합니다.
  • 고급 커널: Large 3의 MoE 아키텍처를 위해, NVIDIA는 Blackwell attention 및 MoE 커널을 통합하고 GB200 NVL72에서 긴 문맥(long-context) 및 높은 처리량을 지원하기 위한 투기적 디코딩(speculative decoding)에 협력했습니다.

엣지 및 로컬 배포

  • Device Support: Ministral 모델은 DGX Spark, RTX PC, 노트북, 그리고 Jetson 장치에 배포하도록 최적화되었습니다.

가용성 및 커스터마이징

Mistral 3는 Mistral AI Studio, Amazon Bedrock, Azure Foundry, Hugging Face, Modal, IBM WatsonX, OpenRouter, Fireworks, Unsloth AI, 및 Together AI를 통해 이용할 수 있습니다. 곧 NVIDIA NIM 및 AWS SageMaker에서도 이용 가능할 예정입니다.

특수 AI가 필요한 조직을 위해, Mistral AI는 도메인 특화 작업이나 독점 데이터셋을 위해 모델을 미세 조정하거나 완전히 적응시킬 수 있는 맞춤형 모델 학습 서비스를 제공합니다.

Sources

관련

  • Dispatch
    Mistral AI, Ministral 3B 및 8B 엣지 모델 출시

    Mistral AI는 온디바이스 컴퓨팅, 낮은 지연 시간의 에이전트 워크플로우, 개인정보 중심의 로컬 추론에 최적화된 최첨단 엣지 모델인 Ministral 3B와 8B를 출시했습니다.

  • Dispatch
    Mistral Medium 3 출시 노트

    Mistral AI는 최첨단 성능을 갖추고 있지만 비용은 8배 낮고 기업 배포 유연성이 뛰어난 업계 최고 수준의 모델인 Mistral Medium 3를 출시했습니다.

  • Dispatch
    Mistral Small 3 릴리스 노트

    Mistral AI는 Apache 2.0 라이선스 하에 공개된 지연 시간 최적화된 24B 파라미터 모델인 Mistral Small 3를 출시했습니다. 이 모델은 크기가 세 배나 큰 모델의 성능을 뛰어넘는다.

  • Dispatch
    Mistral Large 2 release notes / what's new

    Mistral AI가 코딩, 추론 및 다국어 기능에서 경쟁력 있는 성능을 가진, 고처리량 단일 노드 추론을 위해 설계된 123B 파라미터 모델인 Mistral Large 2를 출시했습니다.

  • Dispatch
    Mistral Small 3.1 릴리스 노트

    Mistral AI는 다중 모달 이해 기능, 128k 토큰 컨텍스트 창을 갖춘 Apache 2.0 라이선스 모델인 Mistral Small 3.1을 출시했으며, GPT-4o Mini 및 Gemma 3을 능가하는 성능을 제공합니다.