Mistral Large 和 Mistral Small 发布

Mistral AI 宣布发布 Mistral Large，这是其迄今为止最先进的语言模型，以及 Mistral Small，一个针对成本和延迟进行优化的模型。Mistral Large 被定位为旗舰模型，能够进行复杂的跨语言推理、文本理解和代码生成，在通过 API 提供的一般可用模型中排名第二，仅次于 GPT-4。

Mistral Large 技术能力

Mistral Large 专为高推理任务设计，并比之前的模型提供了几项关键的技术增强：

多语言流利度： 该模型原生流利地使用英语、法语、西班牙语、德语和意大利语，融入了对文化背景和语法的细微理解。
上下文窗口： 它具有 32K tokens 的上下文窗口，能够从大型文档中精确地召回信息。
指令遵循： 该模型的精确指令遵循能力允许开发者实施自定义的审核政策；Mistral AI 利用这一特性为 le Chat 建立了系统级审核。
函数调用： Mistral Large 原生具备函数调用能力，结合受限输出模式，支持大规模应用开发和技术栈现代化。

性能基准测试

Mistral Large 在推理、知识和编码基准测试中表现出强劲的性能：

通用推理： 在 MMLU (Measuring massive multitask language understanding) 基准测试中，Mistral Large (pre-trained) 与 GPT-4、Claude 2、Gemini Pro 1.0、GPT 3.5 和 LLaMA 2 70B 进行比较。
多语言性能： 在 HellaSwag、Arc Challenge 和 MMLU 基准测试中，该模型在法语、德语、西班牙语和意大利语方面的表现明显优于 LLaMA 2 70B。
数学和编码： Mistral Large 在包括 HumanEval pass@1、MBPP pass@1、Math maj@4 和 GSM8K (maj@8 和 maj@1) 在内的流行基准测试中表现出顶尖性能。

Mistral Small 和端点更新

除了旗舰模型外，Mistral AI 还推出了 Mistral Small，这是一个介于开源权重模型和 Mistral Large 之间的中间解决方案。Mistral Small 针对低延迟工作负载进行了优化，并且表现优于 Mixtral 8x7B。

Mistral Small 继承了与 Mistral Large 相同的 RAG-enablement 和函数调用创新。更新后的端点提供现在包括：

优化端点： mistral-small-2402 和 mistral-large-2402。
开源权重端点： open-mistral-7B 和 open-mixtral-8x7b。
遗留端点： mistral-medium 仍然可用，但不再进行更新。

开发者工具：JSON 模式和函数调用

为了提高与生产流水线的集成，Mistral AI 引入了 JSON 格式模式和函数调用。JSON 格式模式强制模型输出有效的 JSON，从而允许进行结构化数据提取。函数调用允许开发者将 Mistral 端点与内部 API、数据库或代码进行对接。

目前，这些功能仅在 mistral-small 和 mistral-large 模型上可用。

部署与可用性

Mistral AI 模型可以通过三个主要渠道提供：

la Plateforme： 托管在 Mistral 的欧洲基础设施上。
Azure： Mistral Large 可通过 Azure AI Studio 和 Azure Machine Learning 使用。
自行部署： 模型权重可用于需要在私有环境中部署的敏感用例。