grobidOrg/grobid-client-python

Python client for GROBID Web services

grobid-client-python – GROBID 문서 파싱 서비스를 위한 Python 래퍼

개요 – 실행 중인 GROBID 서버와 REST API를 통해 통신하는 가볍고 타입이 잘 정의된 Python 라이브러리(및 수반되는 CLI)입니다. GROBID는 과학적 PDF 및 특허에서 구조화된 정보(메타데이터, 참고문헌, 본문, 그림, 표 등)를 추출하는 머신러닝 기반 도구입니다. 이 클라이언트는 다음과 같은 편리한 기능을 제공합니다:

  • 병렬 처리 – 많은 파일을 병렬로 전송합니다 (기본 풀 크기 = 10, 설정 가능).
  • 유연한 입력 – 단일 PDF, 디렉토리, glob patterns, zip/tar 아카이브, 또는 s3:// 객체(범위 스트리밍, 전체 다운로드 불필요).
  • 다양한 출력 형식 – 원본 TEI XML, CORD-19 스타일의 JSON 표현, 또는 깔끔한 Markdown.
  • 옵션 추가 기능 – PDF 좌표 추출, 레이아웃 인식 문장 분할, 인용 통합, ID 생성 등.
  • 설정 가능 – 서버 URL, 타임아웃, 배치 크기, 로깅, 그리고 많은 처리 플래그는 JSON 설정 파일 또는 명령줄 옵션을 통해 설정할 수 있습니다.

사용 방법

  • CLIgrobid_client --input ./pdfs --output ./out processFulltextDocument (또는 README에 나열된 다른 서비스).
  • LibraryGrobidClient를 인스턴스화하고 명령줄에서 사용하는 것과 동일한 플래그를 사용하여 client.process(service, input_path, output_path, …)를 호출합니다.

왜 중요한가 – GROBID의 모델은 학술 논문 및 특허의 구조를를 이해하도록 훈련되었습니다, 이는 전형적인 NLP/AI 작업입니다. 이 클라이언트는 복잡한 작업(병렬 HTTP 호출, 아카이브 스트리밍, S3 액세스, 형식 변환)을 처리함으로써 연구자나 개발자가 저수준의 데이터 가공 대신 다운스트림 분석에 집중할 수 있게 해줍니다.


Key Features (README에서)

  • 많은 문서의 병렬 처리.
  • 아카이브 & S3 스트리밍 – 대규모 컬렉션을 완전히 압축 해제하거나 다운로드하지 않습니다.
  • JSON & Markdown 변환 – TEI XML 출력을 CORD-19 스키마에 맞춘 JSON 및 Markdown으로 변환.
  • 타입 힌트 및 정적 타입 검사를 위한 py.typed 마커.
  • 옵션 좌표 추출 (--tei_coordinates) 및 문장 분할 (--segment_sentences).
  • 명령줄 및 라이브러리 인터페이스는 동일한 옵션 세트를 가집니다.
  • JSON을 통한 설정 가능 (서버 URL, 배치 크기, 타임아웃, 로깅 등).

Typical Workflow

  1. GROBID 서버 실행 (로컬 Docker 이미지, 로컬 설치, 또는 호스팅된 데모).
  2. 클라이언트 설치: pip install grobid-client-python ([s3] 추가 옵션이 필요한 경우 [s3]를 추가하세요).
  3. PDF 처리 – CLI 또는 Python 코드에서, 옵션으로 JSON/Markdown 출력을 요청합니다.
  4. 結果를 소비 – JSON 형식은 논문의 메타데이터, 본문, 그림, 표, 및 인용을 구조화된 표현으로 즉시 사용할 수 있게 제공합니다.

When to Choose This Tool

  • 이미 GROBID를 실행 중이며, 대량의 PDF 코퍼스를 Pythonic한 방식으로 배치 처리해야 하는 경우.
  • 아카이브나 S3 객체를 로컬 디스크를 소모하지 않고 스트리밍하고 싶은 경우.

Limitations Mentioned\n- 인용 통합 (CrossRef와 같은 외부 서비스를 쿼리하는 기능)은 느릴 수 있으며 더 높은 클라이언트 타임아웃 (≥ 120 s)이 필요합니다.

  • Windows 지원은 Docker 컨테이너를 통해서만 가능합니다.
  • 클라이언트는 접근 가능한 GROBID 서버를 가정합니다; 추출 모델 자체는 포함되어 있지 않습니다.

Bottom linegrobid-client-python은 GROBID의 AI 기반 문서 파싱 기능을 사용하는 모든 사람을 위한 실용적이고 프로덕션 레디의 도우미입니다. 원본 PDF를 최소한의 노력으로 구조화된, 검색 가능한 데이터로 변환합니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트