OpenAI 模型蒸馏 API 集成

OpenAI 推出了模型蒸馏套件，将整个蒸馏流程——数据集生成、评估和微调——直接集成到 OpenAI 平台中。这使得开发者可以使用高能力的前沿模型（如 o1-preview 和 GPT-4o）作为教师，提升更具成本效益的模型（如 GPT-4o mini）在特定任务上的性能。

模型蒸馏工作流

模型蒸馏是使用更强大的“教师”模型输出，对更小、更具成本效益的模型进行微调的过程。其目标是使小模型在特定任务上能够匹配先进模型的性能，同时保持更低的运营成本。

以前，这一过程是多步骤、迭代的，需要开发者手动在不同的工具之间协调数据集生成、微调和性能测量等操作。全新的集成套件通过提供三个核心组件来简化此流程：

Stored Completions

Stored Completions 允许开发者通过 API 自动捕获并存储由 GPT-4o 或 o1-preview 等模型生成的输入‑输出对。这使得可以使用真实的生产数据创建蒸馏数据集，随后用于模型的评估和微调。

Evals (Beta)

Evals 是一项 beta 功能，提供了一种集成的方式来衡量模型在特定任务上的性能。开发者可以使用 Stored Completions 的数据或上传的数据集创建并运行自定义评估。Evals 可以独立于微调过程使用，以对特定用例的模型性能进行定量评估。

Integrated Fine-tuning

Stored Completions 和 Evals 与 OpenAI 现有的微调服务完全集成。开发者可以使用通过 Stored Completions 生成的数据集进行微调任务，然后利用 Evals 对生成的微调模型进行性能评估，整个过程均在同一平台生态系统中完成。