GPT-4o mini 发布说明 / 新功能

OpenAI 推出了 GPT-4o mini，这是一款成本高效的小模型，旨在让高性能 AI 更加经济且易于获取。该模型定位为 GPT-3.5 Turbo 的替代品，提供更出色的文本智能和多模态推理，同时价格显著更低。

技术规格与能力

GPT-4o mini 是一种多模态模型，在 API 中支持文本和视觉，未来计划支持图像、视频和音频的输入与输出。它拥有 128K 令牌的上下文窗口，并支持每次请求最多 16K 输出令牌。模型的知识截止时间为 2023 年 10 月。

关键技术优势包括：

  • 改进的分词器：与 GPT-4o 共享的分词器，使处理非英文文本更具成本效益。
  • 长上下文性能：相较于 GPT-3.5 Turbo，模型在长上下文场景下表现出提升。
  • 函数调用：在函数调用方面表现强劲，使开发者能够构建与外部系统交互以获取数据或执行操作的应用程序。

性能基准

GPT-4o mini 在多个学术基准上超越了 GPT-3.5 Turbo 以及其他小模型：

推理与文本智能

GPT-4o mini 在 MMLU 上取得 82.0% 的得分，超过 Gemini Flash（77.9%）和 Claude Haiku（73.8%）。

数学与编码

  • MGSM（数学推理）：GPT-4o mini 得分 87.0%，而 Gemini Flash 为 75.5%，Claude Haiku 为 71.7%。
  • HumanEval（编码）：GPT-4o mini 得分 87.2%，而 Gemini Flash 为 71.5%，Claude Haiku 为 75.9%。

多模态推理

在 MMMU 基准上，GPT-4o mini 得分 59.4%，优于 Gemini Flash（56.1%）和 Claude Haiku（50.2%）。

成本与可用性

GPT-4o mini 的成本比之前的前沿模型低一个数量级，且比 GPT-3.5 Turbo 便宜超过 60%。定价为每百万输入令牌 0.15 美元，每百万输出令牌 0.60 美元。

可用性：

  • API：现已在 Assistants API、Chat Completions API 和 Batch API 中可用。
  • ChatGPT：立即对免费、Plus 和团队用户开放；企业用户将在下周开始获得访问权限。
  • 微调：计划在未来几天内推出。

安全与保障

安全性通过预训练过滤（去除仇恨言论、成人内容和垃圾信息）以及使用人类反馈强化学习（RLHF）的后训练对齐过程，融入开发流程中。

GPT-4o mini 是首个采用 instruction hierarchy 方法的模型，该方法提升了模型抵御 jailbreak、提示注入和系统提示提取的能力，使其在大规模应用中更可靠。

使用案例与行业应用

低成本和低延迟使 GPT-4o mini 适用于链式或并行化多个模型调用、传递大量上下文（如完整代码库）或提供实时客户支持聊天机器人的应用。Ramp 和 Superhuman 等合作伙伴发现，该模型在从收据中提取结构化数据或基于邮件线程历史生成高质量邮件回复方面，表现显著优于 GPT-3.5 Turbo。

Sources