OpenAI 与 Harvey 合作开发定制案例法模型

OpenAI 与 Harvey 合作开发了一款定制训练的案例法模型,旨在为法律、税务和金融专业人士处理复杂推理和广泛领域知识。此合作通过将深度法律知识直接注入模型训练,解决了标准基础模型和检索增强生成(RAG)的局限性。

定制案例法模型的能力

定制训练的模型使 Harvey 能够提供能够执行超出单次模型调用能力的任务的 AI 系统。关键能力包括:

  • 复杂文档分析: 在数百份合同中识别重要差异。
  • 法律起草: 起草文件并回答有关复杂诉讼情景的问题。
  • 案例法研究: 为客户问题提供详尽答案,并为每句话提供引用,确保模型不捏造案例。

技术方法与开发

Harvey 从使用公共 API 进行微调和 RAG 系统转向定制训练模型,因为单纯的 RAG 无法满足律师所需的高水平专业知识。虽然基础模型具备强大的推理能力,但缺乏专业法律工作所必需的特定领域知识。

为了解决此问题,Harvey 与 OpenAI 合作将新知识和推理模式注入基础模型。开发过程包括:

  • 数据整合: 团队加入了相当于 100 亿标记的数据,起始于特拉华州案例法,随后扩展至全部美国案例法。
  • 协同研究: 法律专家向研究人员和 OpenAI 工程师阐释案例法研究的细微差别,以确定最有效的技术杠杆。

性能与结果

据 Harvey 联合创始人 Winston Weinberg 称,律师在 97% 的情况下更倾向于案例法模型的输出。此偏好主要源于模型能够提供更长、更完整的答案,涵盖问题的细微差别并涉及更多相关案例法。

定制模型的主要目标之一是降低幻觉。最终模型确保每句话都有引用案例支持,消除法律先例的捏造。

法律 AI 的未来方向

Harvey 正在探索案例法模型的多项功能扩展,包括:

  • 自动起草: 使用模型起草简报和动议。
  • 司法管辖区分析: 帮助律师了解不同司法管辖区的案例法差异。
  • AI 代理: 开发将多次模型调用合并为单一输出的代理,以减少手动提示工程和用户输入的需求。

AI 开发的战略理念

联合创始人 Gabe Pereyra 建议 AI 创始人应针对模型能力的未来发展方向进行构建,而非局限于当前限制。他建议解决问题的复杂版本,以确保产品在模型演进时仍保持相关性,不会因通用模型的改进而被淘汰。

Sources