Hebbia Matrix: 다중 에이전트 AI를 활용한 금융 및 법률 워크플로 자동화

Hebbia는 금융 및 법률 워크플로의 최대 90%를 자동화하도록 설계된 다중 에이전트 AI 플랫폼인 Matrix를 도입했습니다. o1, o3-mini, GPT-4o 등 여러 OpenAI 모델을 오케스트레이션함으로써 Matrix는 방대한 오프라인 데이터를 처리하여 이전에는 며칠 또는 몇 주가 걸리던 복잡한 연구 작업을 몇 초 만에 수행할 수 있는 "AI associate" 역할을 합니다.

높은 정확도 연구를 위한 RAG 한계 극복

Matrix는 기존의 Retrieval-Augmented Generation(RAG)을 분산 오케스트레이션 엔진으로 대체함으로써 전문 작업에서 최첨단 정확도를 달성합니다. 답변이 명시적으로 제시되지 않은 오프라인 문서에서 RAG 기반 도구가 종종 어려움을 겪는 반면, Hebbia의 엔진은 OpenAI 모델에 "무한한" 효과적인 컨텍스트 윈도우를 제공합니다.

이러한 아키텍처 변화는 복잡한 법률 및 금융 문서에서 성능을 크게 향상시킵니다. OpenAI o1을 활용할 때, Hebbia는 정량적 및 정성적 작업을 포괄하는 벤치마크에서 92% 정확도를 달성했으며, 이는 기본 제공 RAG를 사용할 때의 68% 정확도와 비교됩니다.

에이전트 스웜 아키텍처 및 기능

Matrix는 OpenAI o1의 추론 능력과 Hebbia의 오케스트레이션 엔진을 기반으로 하는 "agent swarm" 아키텍처를 활용합니다. 이 시스템은 복잡한 질의를 구조화된 분석 단계로 분해하고, 작업을 가장 적합한 AI 모델에 지능적으로 라우팅합니다.

Matrix 플랫폼의 주요 기술적 기능은 다음과 같습니다:

• 전체 문서 처리: 시스템은 발췌에 의존하지 않고 전체 문서를 처리합니다.
• 투명한 합성: 답변은 투명성을 위해 전체 인용을 포함하여 합성됩니다.
• 확장 가능한 처리: Matrix는 다른 어떤 AI 애플리케이션 도구보다 더 큰 LLM 처리 작업을 실행합니다.
• 자체 개선 인덱싱: 플랫폼은 사용자를 사전에 업데이트하는 자체 개선 인덱스를 구축합니다.

이러한 기능을 통해 플랫폼은 투자 위원회 메모를 초안하고, 복잡한 법률 조항을 해석하며, 실질적으로 무한에 가까운 수의 문서에서 다단계 인사이트를 추출할 수 있습니다.

금융 및 법률 기업에 대한 정량적 영향

단일 에이전트 챗봇에서 다중 에이전트 오케스트레이션으로의 전환은 여러 전문 분야에서 측정 가능한 효율성 향상을 가져왔습니다:

• 투자 은행: 은행가들은 마케팅 자료, 고객 회의 준비, 그리고 상대방 응답에 대해 거래당 30–40시간을 절감합니다.
• 프라이빗 에쿼티: 기업은 스크리닝, 실사, 전문가 네트워크 조사 과정에서 거래당 20–30시간을 절감합니다.
• 법률 사무소: 신용 계약 검토 시간이 75% 감소하여 시간당 $2,000의 법률 비용 절감 효과가 있습니다.
• 프라이빗 크레딧: 팀은 대출 조건 및 계약 조항 추출을 자동화하여 며칠에 걸친 수동 검토와 제3자 비용을 없앴습니다.

효율성 외에도, 플랫폼은 프라이빗 에쿼티 기업과 은행가들이 인간이 불가능한 규모로 과거 데이터를 종합할 수 있게 하며, 변호사들이 실시간 협상 중에 과거 거래 구조를 참조하여 새로운 레버를 식별할 수 있는 새로운 기능을 제공합니다.

OpenAI 모델의 전략적 통합

Hebbia의 시스템은 계층형 모델 접근 방식을 활용하여 전문 작업을 최적화합니다: 복잡한 추론에는 OpenAI o1을, 일반 처리에는 GPT-4o를, 특정 작업에는 작은 모델을 사용합니다. 이러한 통합을 통해 Hebbia 플랫폼은 AI가 대규모로 전문 작업을 처리하는 방식을 지속적으로 개선하며, 정확하고 방어 가능한 인사이트를 제공하기 위해 AI를 실제 워크플로에 통합하는 데 초점을 맞춥니다.