Mistral AI Magistral 發佈說明

Mistral AI 已宣布推出 Magistral，這是其首款專為特定領域、透明且多語言推理而設計的推理模型。此次發佈引入了一個能夠進行多步驟審議與分析的系統，解決了早期思考模型在專業深度不足以及不同語言間推理不一致等方面的限制。

模型變體與性能

Magistral 提供兩個不同的版本，以平衡易用性與效能：

• Magistral Small: 一款根據 Apache 2.0 授權提供的開源 24B 參數模型。
• Magistral Medium: 一款更強大的企業級版本。

在 AIME2024 的基準測試性能方面，Magistral Medium 獲得了 73.6% 的分數，在使用 majority voting @64 時提升至 90%。Magistral Small 分別以 70.7% 和 83.3% 緊隨其後。

技術能力與特性

透明推理與思維鏈 (Chain-of-Thought)

Magistral 針對多步驟邏輯進行了微調，能夠以使用者的原生語言提供可追蹤的思考過程。與通用型模型不同，這種方法提高了可解釋性，並允許使用者驗證通往結論的邏輯步驟。

多語言靈活性

該模型在各種全球語言和字母系統中保持高保真度的推理能力。它特別針對包括 English、French、Spanish、German、Italian、Arabic、Russian 和 Simplified Chinese 在內的語言進行了優化。

Le Chat 中的高速推理

透過 Le Chat 中的 "Think mode" 和 "Flash Answers" 功能，Magistral Medium 的 Token 吞吐量比大多數競爭對手快上 10 倍，實現了大規模的即時推理與使用者回饋。

企業與領域應用

Magistral 專為透明度與精確度至關重要的使用場景而設計，例如：

• 受規管行業: 為法律、金融、醫療保健和政府部門提供可審計性與可追蹤的推理，以滿足合規性要求。
• 系統與軟體工程: 透過涉及 API 或外部工具的序列化、多步驟行動，改善專案規劃、後端架構與數據工程。
• 商業策略: 執行風險評估、營運優化與數據驅動的決策，包括在約束條件下計算最佳交付窗口。
• 內容創作: 作為創意夥伴，進行連貫或獨特的敘事與創意寫作。

可用性與部署

Magistral Small 是一款開源權重模型，可透過 Hugging Face 下載。Magistral Medium 則可在 Le Chat 中進行預覽，並透過 La Plateforme 的 API 以及 Amazon SageMaker 使用，未來也將在 IBM WatsonX、Azure AI 和 Google Cloud Marketplace 上線。