Mistral Large 2 release notes / what's new

Mistral AI가 고처리량 단일 노드 추론 및 비용 효율성에 최적화된 1230억 개의 파라미터를 가진 Mistral Large 2를 출시했습니다. 이 모델은 특히 코딩, 추론 및 다국어 작업에서 GPT-4o, Claude 3 Opus, Llama 3 405B와 같은 선도적인 프론티어 모델과 경쟁하도록 설계되었습니다.

Model Architecture and Deployment

Mistral Large 2는 128k 컨텍스트 창을 특징으로 하는 123B 파라미터 모델입니다. 이 모델은 특히 단일 노드 추론을 위해 설계되어, 긴 컨텍스트 애플리케이션에서도 높은 처리량을 유지할 수 있습니다.

Licensing and Access

  • Research and Non-Commercial Use: Mistral Research License (MRL-0.1)에 따라 사용할 수 있습니다.
  • Commercial Use: 자체 배포를 위해서는 Mistral Commercial License가 필요합니다.
  • API Access: la Plateforme (mistral-large-2407) 및 le Chat을 통해 사용할 수 있습니다.
  • Cloud Providers: Google Cloud Vertex AI (Managed API), Azure AI Studio, Amazon Bedrock, 및 IBM watsonx.ai를 통해 사용할 수 있습니다.

Technical Performance and Benchmarks

Mistral Large 2는 이전 모델보다 상당한 개선을 보여주며, 다른 선도적인 오픈 모델들과 경쟁력 있는 성능을 보여줍니다.

General Knowledge and Reasoning

MMLU 벤치마크에서 Mistral Large 2의 사전 학습된 버전은 84.0%의 정확도를 달성하여, 오픈 모델의 성능/비용 파레토 프런트(Pareto front)에서 새로운 지점을 구축했습니다.

Coding and Mathematics

Codestral 22B 및 Codestral Mamba의 개발에 이어, Mistral Large 2는 높은 비율의 코드로 학습되었습니다. 이 모델은 코드 생성 및 추론 작업에서 GPT-4o, Claude 3 Opus, Llama 3 405B와 대등한 성능을 발휘합니다.

환각 현상을 줄이기 위해, 모델은 더 신중하고 식별력이 있도록 미세 조정되었으며, 확신 있는 답변을 제공하기에 정보가 충분하지 않을 때 이를 인정하도록 학습되었습니다. 이러한 정확성에 대한 집중은 GSM8K (8-shot) 및 MATH (0-shot, no CoT) 벤치마크에서의 향상된 성능으로 반영됩니다.

Instruction Following and Alignment

Mistral Large 2는 MT-Bench, Wild Bench, Arena Hard를 통해 측정된 바와 같이, 정확한 지침을 따르고 긴 다회차 대화를 관리하는 데 있어 획기적인 개선을을 보여줍니다.

길고 긴 답변을 생성하여 점수를 높이는 일부 모델과 달리, Mistral Large 2는 간결함에 최적화되어 있습니다. 이러한 설계 선택은 추론 비용을 줄이고 비즈니스 애플리케이션에서의 더 빠른 상호작용을 용이하게 하는 것을 목표로 합니다.

Multilingual Capabilities and Tool Use

Mistral Large 2는 대량의 다국어 데이터를 학습하여 글로벌 비즈니스 사용 사례를 위해 설계되었습니다.

Language Support

모델은 다음 언어들에 대해 뛰어난 성능을 보여줍니다:

  • English, French, German, Spanish, Italian, Portuguese, Dutch, Russian, Chinese, Japanese, Korean, Arabic, and Hindi.

Tool Use and Function Calling

모델은 향상된 검색 기술과 함수 호출(function calling) 기능을 갖추고 있습니다. 병렬 및 순차적 함수 호출을 모두 실행할 수 있도록 학습되어, 복잡한 비즈니스 애플리케이션 오케스트레이션에 적합합니다.

Sources

관련

  • Dispatch
    Mistral Large 및 Mistral Small 출시

    Mistral AI는 최상위권 추론 및 다국어 능력을 갖춘 플래그십 모델인 Mistral Large와 저지연 워크로드에 최적화된 모델인 Mistral Small을 출시했습니다.

  • Dispatch
    Mistral 7B 릴리스 노트

    Mistral AI는 모든 벤치마크에서 Llama 2 13B를 능가하며 Apache 2.0 라이선스 하에 공개된 73억 파라미터 언어 모델인 Mistral 7B를 출시했습니다.

  • Dispatch
    Pixtral Large 릴리스 노트

    Mistral AI는 Mistral Large 2의 텍스트 능력을 유지하면서 MathVista, DocVQA, 및 VQAv2에서 최첨단 성능을을 달성하는 124B 오픈 웨이트 멀티모달 모델인 Pixtral Large를 출시했습니다.

  • Dispatch
    Mistral 3 릴리스 노트: Mistral Large 3 및 Ministral 3 제품군

    Mistral AI는 프론티어급 Mistral Large 3 MoE 모델과 엣지 최적화된 Ministral 3 제품군(3B, 8B, 14B)을 포함하는 Mistral 3를 Apache 2.0 라이선스로 출시했습니다.

  • Dispatch
    Mistral AI Devstral 2 및 Mistral Vibe CLI 릴리스

    Mistral AI는 SWE-bench Verified에서 최고 성능을 기록하며 높은 비용 효율성을 갖춘 오픈웨이트 코딩 모델인 Devstral 2(123B)와 Devstral Small 2(24B)를 발표했으며, 자율 코드 자동화를 위한 오픈소스 Mistral Vibe CLI도 함께 출시했습니다.