PaddleOCR 3.5 릴리즈 노트 / 새로운 내용

PaddleOCR 3.5는 지원되는 OCR 및 문서 파싱 모델에 대해 Hugging Face Transformers를 추론 백엔드로 사용할 수 있게 합니다. 이 업데이트를 통해 개발자는 PaddleOCR의 기능을 Hugging Face 중심 환경에 보다 적은 통합 마찰로 통합할 수 있으며, 특히 RAG 및 Document AI 애플리케이션에 유용합니다.

추론 백엔드 유연성

PaddleOCR 3.5는 개발자가 engine 매개변수를 통해 백엔드를 선택할 수 있는 유연한 추론 엔진 인터페이스를 도입했습니다. engine="transformers" 로 설정하면 지원되는 모델을 Transformers 라이브러리를 사용해 실행할 수 있습니다.

Transformers 백엔드가 옵션으로 제공되지만, PaddleOCR는 여전히 이러한 작업 뒤의 파이프라인을 관리하므로 개발자가 내부 구성 요소를 직접 호출할 필요가 없습니다. 백엔드별 옵션—예를 들어 dtype, 디바이스 배치, 어텐션 구현—은 engine_config 매개변수를 통해 설정할 수 있습니다.

PaddleOCR 3.5 아키텍처 스택

계층 설명 예시
애플리케이션 계층 OCR 및 문서 파싱 결과를 활용하는 애플리케이션 RAG, 에이전트, Document AI
모델 계층 OCR 및 문서 파싱 기능 PP-OCRv5, PaddleOCR-VL 1.5
추론 백엔드 계층 지원되는 모델을 실행하는 런타임 Paddle static graph, Paddle dynamic graph, Transformers

주요 기능 및 지원 모델

이번 릴리즈는 새로운 모델 아키텍처보다 추론 백엔드 계층에 중점을 두었습니다. PaddleOCR는 여전히 고성능 OCR 및 문서 파싱 모델 시리즈를 제공하며, 다음을 포함합니다:

  • PP-OCRv5: OCR 모델 시리즈.
  • PaddleOCR-VL 1.5: 문서 파싱 모델 시리즈.

이 모델들은 이제 Transformers 백엔드를 사용해 실행할 수 있어 모델 로딩, 실험, 배포를 위한 PyTorch / Transformers 인프라에 보다 잘 맞습니다.

구현 및 빠른 시작

Transformers 백엔드를 사용하려면 개발자는 paddleocr==3.5.0, paddlex==3.5.2, transformers>=5.4.0을 설치하고 호환되는 PyTorch 빌드를 함께 사용해야 합니다.

명령줄 인터페이스 (CLI)

paddleocr ocr \
  -i https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/general_ocr_002.png \
  --device gpu:0 \
  --engine transformers

Python API

from paddleocr import PaddleOCR

pipeline = PaddleOCR(
    device="gpu:0",
    engine="transformers",
    use_doc_orientation_classify=False,
    use_doc_unwarping=False,
    use_textline_orientation=False,
    engine_config={
        "dtype": "float32",
    },
)

results = pipeline.predict(
    "https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/general_ocr_002.png"
)

개발자는 engine_config를 통해 dtype(예: bfloat16), device_type, device_id, attn_implementation(예: sdpa)와 같은 매개변수를 사용해 성능을 추가로 조정할 수 있습니다.

Transformers 백엔드를 사용해야 할 때

Transformers 백엔드는 이미 모델 아티팩트 관리 및 배포를 위해 PyTorch / Transformers 인프라에 의존하고 있는 팀에 권장됩니다. 보다 익숙한 개발 경험과 Hub와 호환되는 모델 탐색을 제공합니다.

하지만 최대 OCR 또는 문서 파싱 처리량을 우선시하는 사용자에게는 기본 paddle_static 백엔드가 여전히 권장됩니다. 이번 릴리즈는 기존 백엔드를 대체하기보다는 유연성을 제공합니다.

리소스

Sources