为您的应用定制 GPT-3

OpenAI 已经为 API 客户引入了在自有数据上微调 GPT-3 的能力。这项能力允许开发者创建针对特定应用量身定制的模型自定义版本，从而在降低运营成本和延迟的同时，使模型在更广泛的使用场景中更加可靠。

技术实现与效率

可以通过 OpenAI 命令行工具中使用提供的文件，通过单个命令启动 GPT-3 的微调。一旦训练完成，自定义版本即可通过 API 立即使用。

关于数据量和质量提升的关键性能指标包括：

• 最低阈值：微调的收益在少于 100 个示例时就开始显现。
• 缩放定律：随着训练示例数量翻倍，质量往往会呈线性提升。
• 提示词设计对比：在具有挑战性的研究数据集（例如小学数学题）上，与仅通过提示词设计所能达到的效果相比，微调可将准确率提高 2 到 4 倍。

生产环境的运营优势

为生产级应用定制 GPT-3 提供三个主要优势：

1. 提高可靠性：定制化减少了不可靠输出的频率。一位客户报告其不可靠输出从 17% 下降到了 5%。
2. 降低成本：由于自定义模型是针对特定任务量身定制的，所需的提示词可以显著缩短，从而降低 API 成本。
3. 改善延迟：更短的提示词会带来更快的模型响应时间。

实际应用案例研究

OpenAI 强调了几家使用定制版 GPT-3 以实现特定性能提升的公司：

Keeper Tax

Keeper Tax 使用 GPT-3 来识别自由职业者的税务抵扣项。通过每周添加约 500 个新的训练示例，他们的准确率从 85% 提高到了 93%，实现了每周约 1% 的准确率提升。

Viable

Viable 将非结构化客户反馈转化为自然语言报告。微调 GPT-3 提高了其报告的可靠性，将客户反馈摘要的准确率从 66% 提高到了 90%。

Sana Labs

Sana Labs 提供个性化的学习体验。通过定制 GPT-3，他们从通用的、语法正确的响应转变为高度准确的输出，从而使内容和问题生成的能力提升了 60%。

Elicit

Elicit 是一款 AI 研究助手，使用定制的 GPT-3 从学术摘要中生成论点。与提示词设计相比，定制化模型在三个领域表现更佳：

• 可理解性：提升了 24%。
• 准确性：提升了 17%。
• 准确性/总体：总体提升了 33%。

结论

无论是文本生成、摘要、分类还是任何其他自然语言任务，微调 GPT-3 都允许开发者为专业化应用提高准确性和可靠性。