Mistral Large 및 Mistral Small 출시

Mistral AI는 현재까지 가장 진보된 언어 모델인 Mistral Large와 비용 및 지연 시간을 최적화한 모델인 Mistral Small의 출시를 발표했습니다. Mistral Large는 복잡한 다국어 추론, 텍스트 이해 및 코드 생성이 가능한 플래그십 모델로 자리매김하고 있으며, GPT-4에 이어 API를 통해 일반적으로 사용할 수 있는 모델 중 두 번째로 높은 순위를 차지하고 있습니다.

Mistral Large 기술적 역량

Mistral Large는 고도의 추론 작업에 맞게 설계되었으며 이전 모델에 비해 몇 가지 주요 기술적 향상을 제공합니다:

  • 다국어 유창성: 이 모델은 영어, 프랑스어, 스페인어, 독일어, 이탈리아어에 대해 네이티브 수준의 유창함을 갖추고 있으며, 문화적 맥락과 문법에 대한 미묘한 이해를 포함합니다.
  • 컨텍스트 윈도우: 32K 토큰 컨텍스트 윈도우를 특징으로 하여 대규모 문서에서 정확한 정보 회상을 가능하게 합니다.
  • 지시 사항 준수: 모델의 정밀한 지시 사항 준수 능력은 개발자가 맞춤형 중재 정책을 구현할 수 있도록 합니다. Mistral AI는 이 기능을 사용하여 le Chat의 시스템 수준 중재를 설정했습니다.
  • 함수 호출(Function Calling): Mistral Large는 네이티브하게 함수 호출이 가능하며, 이는 제한된 출력 모드와 결합되어 대규모 애플리케이션 개발 및 기술 스택 현대화를 지원합니다.

성능 벤치마크

Mistral Large는 추론, 지식 및 코딩 벤치마크 전반에서 강력한 성능을 보여줍니다:

  • 일반 추론: MMLU (Measuring massive multitask language understanding) 벤치마크에서 Mistral Large (pre-trained)는 GPT-4, Claude 2, Gemini Pro 1.0, GPT 3.5, LLaMA 2 70B와 함께 비교됩니다.
  • 다국어 성능: 이 모델은 특히 프랑스어, 독일어, 스페인어, 이탈리아어의 HellaSwag, Arc Challenge, MMLU 벤치마크에서 LLaMA 2 70B를 크게 능가합니다.
  • 수학 및 코딩: Mistral Large는 HumanEval pass@1, MBPP pass@1, Math maj@4, GSM8K (maj@8 및 maj@1)를 포함한 인기 있는 벤치마크에서 최상위권 성능을 보여줍니다.

Mistral Small 및 엔드포인트 업데이트

플래그십 모델과 함께 Mistral AI는 오픈 웨이트 모델과 Mistral Large 사이의 중간 솔루션인 Mistral Small을 도입했습니다. Mistral Small은 저지연 워크로드에 최적화되어 있으며 Mixtral 8x7B를 능가합니다.

Mistral Small은 Mistral Large와 동일한 RAG-enablement 및 함수 호출 혁신을 계승합니다. 업데이트된 엔드포인트 제공 사항은 다음과 같습니다:

  • 최적화된 엔드포인트: mistral-small-2402 및 mistral-large-2402.
  • 오픈 웨이트 엔드포인트: open-mistral-7B 및 open-mixtral-8x7b.
  • 레거시 엔드포인트: mistral-medium은 계속 사용 가능하지만 업데이트되지는 않습니다.

개발자 도구: JSON 모드 및 함수 호출

프로덕션 파이프라인으로의 통합을 개선하기 위해 Mistral AI는 JSON 형식 모드와 함수 호출을 도입했습니다. JSON 형식 모드는 모델이 유효한 JSON을 출력하도록 강제하여 구조화된 데이터 추출을 가능하게 합니다. 함수 호출은 개발자가 Mistral 엔드포인트를 내부 API, 데이터베이스 또는 코드와 인터페이스할 수 있도록 합니다.

현재, 이러한 기능은 mistral-small 및 mistral-large 모델에서만 사용할 수 있습니다.

배포 및 가용성

Mistral AI 모델은 세 가지 주요 채널을 통해 사용할 수 있습니다:

  1. la Plateforme: Mistral의 유럽 인프라에서 호스팅됩니다.
  2. Azure: Mistral Large는 Azure AI Studio 및 Azure Machine Learning을 통해 사용할 수 있습니다.
  3. 자체 배포: 모델 웨이트는 프라이빗 환경에서 배포가 필요한 민감한 사용 사례를를 위해 사용할 수 있습니다.

Sources

관련

  • Dispatch
    Mistral Large 2 release notes / what's new

    Mistral AI가 코딩, 추론 및 다국어 기능에서 경쟁력 있는 성능을 가진, 고처리량 단일 노드 추론을 위해 설계된 123B 파라미터 모델인 Mistral Large 2를 출시했습니다.

  • Dispatch
    Mistral Small 3.1 릴리스 노트

    Mistral AI는 다중 모달 이해 기능, 128k 토큰 컨텍스트 창을 갖춘 Apache 2.0 라이선스 모델인 Mistral Small 3.1을 출시했으며, GPT-4o Mini 및 Gemma 3을 능가하는 성능을 제공합니다.

  • Dispatch
    Pixtral Large 릴리스 노트

    Mistral AI는 Mistral Large 2의 텍스트 능력을 유지하면서 MathVista, DocVQA, 및 VQAv2에서 최첨단 성능을을 달성하는 124B 오픈 웨이트 멀티모달 모델인 Pixtral Large를 출시했습니다.

  • Dispatch
    Mistral Small 3 릴리스 노트

    Mistral AI는 Apache 2.0 라이선스 하에 공개된 지연 시간 최적화된 24B 파라미터 모델인 Mistral Small 3를 출시했습니다. 이 모델은 크기가 세 배나 큰 모델의 성능을 뛰어넘는다.

  • Dispatch
    Mistral Small 4 출시 노트 / 새로운 기능

    Mistral AI는 추론, 멀티모달, 에이전트 코딩 기능을 하나의 다재다능한 아키텍처로 통합한 Apache 2.0 라이선스의 통합 오픈소스 모델인 Mistral Small 4를 출시했습니다.