OpenAI 與 Harvey 合作開發自訂案例法模型

OpenAI 與 Harvey 合作開發了一個自訂訓練的案例法模型，旨在為法律、稅務與金融專業人士處理複雜推理與廣泛領域知識。此合作透過將深度法律知識直接注入模型訓練，克服了標準基礎模型與檢索增強生成（RAG）的限制。

自訂訓練案例法模型的功能

自訂訓練的模型使 Harvey 能夠提供能執行超出單次模型呼叫能力的 AI 系統。主要功能包括：

• 複雜文件分析： 識別數百份合約中的重大差異。
• 法律草擬： 起草文件並回答有關複雜訴訟情境的問題。
• 案例法研究： 為客戶問題提供完整答案，且每句皆附有引用，確保模型不會捏造案例。

技術方法與開發

Harvey 從使用公共 API 進行微調與 RAG 系統，轉而採用自訂訓練模型，因為僅靠 RAG 無法滿足律師所需的高階專業知識。雖然基礎模型具備強大的推理能力，但缺乏執行專業法律工作所必需的特定領域知識。

為了解決此問題，Harvey 與 OpenAI 合作，將新知識與推理模式注入基礎模型。開發過程包括：

• 資料整合： 團隊加入相當於 100 億個 token 的資料，從特拉華州案例法開始，逐步擴展至全部美國案例法。
• 協同研究： 法律專家向研究人員與 OpenAI 工程師說明案例法研究的細微差異，以確定最有效的技術手段。

效能與結果

根據 Harvey 共同創辦人 Winston Weinberg 的說法，律師在 97% 的情況下偏好案例法模型的輸出。此偏好主要源於模型能提供更長、更完整的答案，涵蓋問題的細微差異並涉及更多相關案例法。

自訂模型的主要目標之一是降低幻覺現象。最終模型確保每句話都有引用的案例作為支持，杜絕了法律先例的捏造。

法律 AI 的未來方向

Harvey 目前正在探索案例法模型效用的多項擴展，包括：

• 自動化草擬： 使用模型起草簡報與動議。
• 司法管轄分析： 協助律師了解不同司法管轄區的案例法差異。
• AI 代理人： 開發能將多次模型呼叫合併為單一輸出的代理人，以減少手動提示工程與使用者輸入的需求。

AI 開發的策略哲學

共同創辦人 Gabe Pereyra 認為，AI 創辦人應該針對模型能力的未來走向進行建設，而非僅著眼於當前限制。他建議解決問題的複雜版本，以確保產品在模型演進時仍具相關性，避免因一般模型的提升而變得過時。