Mistral AI Magistral 릴리스 노트

Mistral AI는 도메인 특화, 투명하고 다국어로 추론할 수 있는 첫 번째 추론 모델인 Magistral을 발표했습니다. 이번 릴리스는 다단계 논의와 분석이 가능한 시스템을 도입하여, 초기 추론 모델의 한계인 전문성 부족 및 다양한 언어 간 일관성 없는 추론 문제를 해결합니다.

모델 버전 및 성능

가용성과 성능의 균형을 위해 두 가지 다른 버전으로 Magistral이 출시되었습니다:

Magistral Small: 오픈소스이며, Apache 2.0 라이선스 하에 제공되는 24B 파라미터 모델입니다.
Magistral Medium: 더 강력한 엔터프라이즈 등급 버전입니다.

AIME2024 벤치마크 성능 측정 결과, Magistral Medium는 73.6%의 점수를 기록했으며, @64에서 다수결 투표를 사용할 경우 90%까지 상승했습니다. Magistral Small는 각각 70.7%와 83.3%를 기록했습니다.

기술적 능력 및 기능

투명한 추론과 사고의 연쇄

Magistral은 다단계 논리 처리를 위해 미세 조정되어 사용자의 모국어로 추론 과정을 추적 가능하게 합니다. 일반 목적 모델과 달리, 이 접근법은 해석 가능성을 향상시키고 사용자가 결론에 이르는 논리적 단계를 검증할 수 있도록 합니다.

다국어 유연성

모델은 다양한 세계 언어와 알파벳에서 높은 정밀도의 추론을 유지합니다. 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 아랍어, 러시아어, 간체중국어 등에 특별히 최적화되어 있습니다.

Le Chat에서의 고속 추론

Le Chat의 "Think mode" 및 "Flash Answers" 기능을 통해 Magistral Medium은 대부분의 경쟁 제품보다 최대 10배 빠른 토큰 처리 속도를 달성하여, 대규모에서 실시간 추론과 사용자 피드백을 가능하게 합니다.

엔터프라이즈 및 도메인 응용

투명성과 정밀도가 중요한 사용 사례에 특화되어 있습니다. 예를 들어:

규제 산업: 법률, 금융, 헬스케어, 정부 부문에서 감사 가능하고 추적 가능한 추론을 제공하여 규정 준수 요구사항을 충족합니다.
시스템 및 소프트웨어 공학: API나 외부 도구를 활용한 시퀀스화된 다단계 작업을 통해 프로젝트 계획, 백엔드 아키텍처, 데이터 엔지니어링을 향상시킵니다.
비즈니스 전략: 리스크 평가, 운영 최적화, 데이터 기반 의사결정을 수행하며, 제약 조건 하에서 최적의 배송 창을 계산하는 등의 작업도 가능합니다.
콘텐츠 제작: 일관성 있는 또는 독특한 서사, 창작 글쓰기와 같은 창의적 작업의 파트너로 활용됩니다.

가용성 및 배포

Magistral Small는 Hugging Face를 통해 다운로드 가능한 오픈웨이트 모델입니다. Magistral Medium은 Le Chat에서 프리뷰로 제공되며, La Plateforme의 API, Amazon SageMaker, 그리고 곧 IBM WatsonX, Azure AI, Google Cloud Marketplace에서도 이용 가능할 예정입니다.