Mistral Batch API 发布

Mistral AI 推出了 Batch API，为处理海量数据请求提供了一种更具成本效益的方法。这项新功能允许开发者以标准同步 API 调用成本的 50% 来处理大规模数据集，使前沿 AI 在规模密集型应用中更加经济实惠。

成本降低与效率

与同步 API 调用相比，Batch API 可降低 50% 的运营成本。它专为处理数据量比响应即时性更关键的 AI 应用而设计。用户无需等待实时回答，而是上传包含多个请求的批处理文件，待处理完成后，即可下载生成的输出文件。

支持的模型与限制

Batch API 目前适用于 La Plateforme 上提供的所有模型。Mistral AI 还表示，该功能很快也将登陆其云服务提供商合作伙伴。目前，每个工作区的进行中请求数量限制为 100 万个。

主要用例

Batch API 针对异步、高容量任务进行了优化。关键应用包括：

• 数据分析： 大规模执行情感分析并处理客户反馈。

• 内容处理： 执行批量文档摘要和翻译。

• 搜索基础设施： 生成向量嵌入以准备搜索索引。

• 数据管理： 大规模数据标注。