OpenAI와 Harvey가 맞춤형 판례 모델 개발을 위해 파트너십 체결

OpenAI와 Harvey는 법률, 세무 및 재무 전문가를 위한 복잡한 추론과 방대한 도메인 지식을 처리하도록 설계된 맞춤형 학습 판례 모델을 개발하기 위해 파트너십을 맺었습니다. 이 협업은 표준 기반 모델 및 검색 강화 생성(RAG)의 한계를 극복하기 위해 깊은 법률 지식을 모델 학습에 직접 주입합니다.

맞춤형 학습 판례 모델 기능

맞춤형 학습 모델을 통해 Harvey는 단일 모델 호출의 한계를 넘어서는 작업을 수행할 수 있는 AI 시스템을 제공할 수 있습니다. 주요 기능은 다음과 같습니다:

• 복잡한 문서 분석: 수백 개의 계약서에서 실질적인 불일치를 식별합니다.
• 법률 초안 작성: 문서를 초안하고 복잡한 소송 시나리오에 관한 질문에 답변합니다.
• 판례 연구: 모든 문장에 인용을 포함한 고객 질문에 대한 상세한 답변을 제공하여 모델이 사례를 조작하지 않도록 합니다.

기술 접근 방식 및 개발

Harvey는 공개 API를 사용한 파인튜닝 및 RAG 시스템에서 맞춤형 학습 모델로 전환했습니다. 이는 RAG만으로는 변호사가 요구하는 고급 전문 지식에 충분하지 않았기 때문입니다. 기본 모델은 강력한 추론 능력을 가지고 있었지만, 전문 법률 업무에 필요한 구체적인 도메인 지식이 부족했습니다.

이를 해결하기 위해 Harvey와 OpenAI는 새로운 지식과 추론 패턴을 기본 모델에 주입하기 위해 협업했습니다. 개발 과정은 다음과 같습니다:

• 데이터 통합: 팀은 델라웨어 판례를 시작으로 미국 전체 판례를 포함하도록 100억 토큰에 해당하는 데이터를 추가했습니다.
• 협업 연구: 법률 전문가가 판례 연구의 미묘한 차이를 연구원 및 OpenAI 엔지니어에게 설명하여 가장 효과적인 기술적 레버를 결정했습니다.

성능 및 결과

Harvey의 공동 설립자인 Winston Weinberg에 따르면, 변호사들은 97%의 경우 판례 모델의 출력을 선호했습니다. 이러한 선호는 모델이 질문의 미묘한 차이를 다루고 더 관련성 높은 판례를 포괄하는 더 길고 완전한 답변을 제공할 수 있는 능력에 주로 기인합니다.

맞춤형 모델의 주요 목표 중 하나는 환각을 감소시키는 것이었습니다. 결과 모델은 모든 문장이 인용된 사례에 의해 뒷받침되도록 하여 법적 선례의 조작을 없앱니다.

법률 AI의 향후 방향

Harvey는 현재 판례 모델의 활용도를 확대하기 위해 다음과 같은 여러 방안을 탐색하고 있습니다:

• 자동 초안 작성: 모델을 사용해 브리프와 동의를 초안합니다.
• 관할권 분석: 변호사가 다양한 관할권에서 판례가 어떻게 다른지 이해하도록 돕습니다.
• AI 에이전트: 여러 모델 호출을 하나의 출력으로 결합하는 에이전트를 개발하여 수동 프롬프트 엔지니어링 및 사용자 입력 필요성을 줄입니다.

AI 개발을 위한 전략적 철학

공동 설립자인 Gabe Pereyra는 AI 창업자들이 현재의 제한보다는 모델 능력의 미래 궤적을 위해 구축해야 한다고 제안합니다. 그는 제품이 모델이 발전함에 따라 여전히 유효하도록 문제의 복잡한 버전을 해결할 것을 권고합니다.