Mistral Large 與 Mistral Small 發佈

Mistral AI 已宣布發佈 Mistral Large，這是其迄今為止最先進的語言模型，以及 Mistral Small，一個針對成本與延遲進行優化的模型。Mistral Large 被定位為旗艦模型，能夠進行複雜的多語言推理、文本理解與程式碼生成，其排名為透過 API 提供之模型中的第二名，僅次於 GPT-4。

Mistral Large 技術能力

Mistral Large 專為高推理任務設計，並相較於以往模型提供了幾項關鍵技術增強：

多語言流暢度： 該模型原生流暢地使用英文、法文、西班牙文、德文與義大利文，並融入了對文化背景與語法的細微理解。
上下文窗口： 它具有 32K tokens 的上下文窗口，能夠從大型文件中進行精確的資訊檢索。
指令遵循： 該模型精確的指令遵循能力允許開發者實施自定義的審核政策；Mistral AI 利用此功能為 le Chat 建立了系統級別的審核機制。
功能呼叫 (Function Calling)： Mistral Large 原生具備功能呼叫能力，結合受限輸出模式，可支援大規模應用開發與技術棧現代化。

性能基準測試

Mistral Large 在推理、知識與程式碼基準測試中展現了強大的性能：

通用推理： 在 MMLU (Measuring massive multitask language understanding) 基準測試中，Mistral Large (pre-trained) 與 GPT-4、Claude 2、Gemini Pro 1.0、GPT 3.5 以及 LLaMA 2 70B 進行了比較。
多語言性能： 在 HellaSwag、Arc Challenge 與 MMLU 基準測試中，該模型在法文、德文、西班牙文與義大利文方面的表現明顯優於 LLaMA 2 70B。
數學與程式碼： Mistral Large 在熱門基準測試中展現了頂尖性能，包括 HumanEval pass@1、MBPP pass@1、Math maj@4 以及 GSM8K (maj@8 與 maj@1)。

Mistral Small 與端點更新

除了旗艦模型外，Mistral AI 還推出了 Mistral Small，這是一個介於開源權重模型與 Mistral Large 之間的中間方案。Mistral Small 針對低延遲工作負載進行了優化，且表現優於 Mixtral 8x7B。

Mistral Small 繼承了與 Mistral Large 相同的 RAG-enablement 與功能呼叫創新。更新後的端點提供內容現在包括：

優化端點： mistral-small-2402 與 mistral-large-2402。
開源權重端點： open-mistral-7B 與 open-mixtral-8x7b。
舊版端點： mistral-medium 仍可使用，但不再進行更新。

開發者工具：JSON 模式與功能呼叫

為了改善與生產流程的整合，Mistral AI 引入了 JSON 格式模式與功能呼叫。JSON 格式模式會強制模型輸出有效的 JSON，從而實現結構化數據提取。功能呼叫允許開發者將 Mistral 端點與內部 API、資料庫或程式碼進行對接。

目前，這些功能僅在 mistral-small 與 mistral-large 模型上提供。

部署與可用性

Mistral AI 模型可透過三個主要管道提供：

la Plateforme： 託管於 Mistral 的歐洲基礎設施上。
Azure： Mistral Large 可透過 Azure AI Studio 與 Azure Machine Learning 使用。
自行部署： 模型權重可用於需要在私有環境中部署的敏感使用案例。