Claude 3 Haiku 在 Amazon Bedrock 中的微调

TL;DR

Anthropic 已宣布在 Amazon Bedrock 中正式推出 Claude 3 Haiku 的微调功能。这项能力允许组织使用自己的训练数据来定制模型，从而在保持 Haiku 模型速度和成本效益的同时，提高在专业任务上的准确性。

通过微调定制 Claude 3 Haiku

微调可以创建一个在高质量提示-完成对（prompt-completion pairs）上训练的定制版 Claude 3 Haiku。这一过程允许模型在高度定制的工作流和通用模型可能不具备的专业业务知识方面表现出色。

用户可以使用 Amazon Bedrock 控制台或 API 来测试和完善他们的定制模型，直到达到性能目标后再进行部署。

关键技术与运营优势

为 Claude 3 Haiku 进行微调为生产部署提供了若干战略优势：

• 增强的专业性能：模型可以针对特定领域的动作进行优化，包括特定行业的数据解读、分类以及与自定义 API 的交互。
• 成本与延迟降低：组织可以使用微调后的 Haiku 模型来替代 Claude 3 Sonnet 或 Opus 等较大模型来处理特定任务，从而实现更快的响应时间和更低的运营成本。
• 品牌与合规对齐：微调可确保输出结果结构的一致性，例如自定义模式（schemas）或标准化的报告，这对于内部协议和监管合规至关重要。
• 安全性与安全性：专有训练数据保留在客户的 AWS 环境中。此外，Anthropic 的微调方法旨在保留 Claude 3 模型系列特有的低有害输出风险特征。
• 可访问性：该 API 旨在供各种规模的公司使用，消除了实施微调对深厚内部 AI 专业知识的需求。

性能案例研究：内容审核

Anthropic 通过将微调应用于在线论坛评论的审核（以识别威胁、侮辱和显式内容）展示了其功效。结果显示效率和准确性都有显著提升：

• 准确性：分类准确率从 81.5% 提高到 99.6%。
• 效率：每个查询的 Token 数量减少了 85%。

行业应用与客户成果

多家组织已经将微调后的 Claude 模型集成到其业务运营中：

SK Telecom

SK Telecom 使用定制的 Claude 模型来优化客户支持工作流。根据 AI Tech Collaboration Group 副总裁 Eric Davis 的说法，成果包括：

• 客服人员响应的正向反馈增加了 73%。
• 电信相关任务的关键绩效指标 (KPIs) 提升了 37%。
• 在从客户通话记录中生成摘要、行动项和主题方面的效率得到了提高。

Thomson Reuters

Thomson Reuters 正在利用微调来增强法律、税务、会计和合规领域专业人士的 AI 辅助功能。该公司旨在利用其行业专业知识，以更快的速度提供更准确且一致的用户体验。

可用性与技术规格

Claude 3 Haiku 的微调功能已在 Amazon Bedrock 中正式推出。初始规格包括：

• 区域：可在 US West (Oregon) AWS 区域使用。
• 能力：目前支持基于文本的微调。
• 上下文长度：支持高达 32K tokens 的上下文长度。
• 未来路线图：计划未来引入视觉能力。