Dharma Field Extractor: 문서 입력 시 구조화된 JSON 필드 출력

개요

Dharma-AI는 문서에서 구조화된 데이터를 추출하는 데 특화된 20억 개의 파라미터 모델인 Dharma Field Extractor를 출시했습니다. 문서를 파싱하기 위해 복잡한 프롬프트가 필요한 범용 LLM과 달리, 이 모델은 문서 이미지에서 직접 타입이 지정된 스키마 준수 JSON을 출력하도록 설계되었으며, 최첨단 API 대안보다 더 높은 정확도와 훨씬 낮은 추론 비용을 제공합니다.

기능 및 모드

Field Extractor는 두 가지 모드로 작동하며, 사용자가 유연성과 엄격한 출력 요구 사항 사이에서 균형을 맞출 수 있도록 합니다:

  • Open Extraction: 모델이 제공된 스키마 없이 문서를 분석하여 레이아웃과 문맥을 기반으로 키-값 쌍이나 테이블 헤더와 같은 구조화된 필드를 식별하고 결과를 JSON으로 반환합니다.
  • Schema-Directed Extraction: 사용자가 원하는 필드 이름, 타입(문자열, 숫자 또는 불리언), 중첩 구조를 정의하는 특정 스키마를 제공합니다. 모델은 문서 내용을 이러한 키에 매핑하며, 누락된 필드에 대해서는 null을 반환하여 출력이 다운스트림 데이터베이스 통합에 필요한 형식을 준수하도록 보장합니다.

기술적 기반 및 학습

이 모델은 지도 미세 조정(SFT)과 직접 선호도 최적화(DPO)를 통해 최적화된 20억 개의 파라미터 아키텍처인 DharmaOCR-LITE v1.1을 기반으로 구축되었습니다. 성능을 달성하기 위해 이 모델은 43,384개의 예제로 구성된 데이터셋에서 LoRA 어댑터를 사용하여 학습되었습니다. 학습 데이터 구성은 다음 세 가지 주요 스트림을 포함합니다:

  • 영어 다중 도메인 데이터: 공개 웹 문서의 광범위한 컬렉션.
  • 브라질 도메인 데이터: 포르투갈어로 된 실제 문서.
  • 다국어 데이터: 다양한 유럽 및 아시아 언어를 포괄하는 대표 샘플.

이 학습 접근 방식은 송장, 은행 명세서, 신분증, 양식을 포함한 다양한 문서 유형 전반에 걸쳐 필드 수준의 주석을 강조합니다.

성능 및 벤치마킹

546개의 문서와 총 1,638개의 테스트 케이스를 대상으로 한 벤치마크 평가에서 Dharma Field Extractor는 여러 범용 최첨단 LLM을 능가했습니다. 평가는 필드 수준의 F1 점수, 값에 대한 레벤슈타인 유사도, 유효한 JSON 출력 비율을 측정했습니다. 이 모델은 0.834의 점수를 기록하여 0.741에서 0.816 사이의 점수를 기록한 최첨단 구성을 앞질렀습니다.

성능 외에도 이 모델은 상당한 비용 효율성을 제공합니다. 단일 L40S GPU와 같은 인프라에서 자체 호스팅하도록 설계되었기 때문에 운영 비용은 테스트된 최첨단 API 모델의 토큰당 가격보다 6배에서 147배까지 저렴한 것으로 추정됩니다. 이는 제한된 도메인별 작업의 경우, 특화된 소형 언어 모델이 더 큰 범용 모델보다 우수한 결과를 제공할 수 있음을 보여줍니다.

Sources