docling-project/docling-serve

Running Docling as an API service

해결하는 문제

Docling Serve를 사용하면 AI 기반 문서 변환 툴킷인 Docling을 확장 가능한 API 서비스로 실행할 수 있습니다. 이를 통해 라이브러리를 애플리케이션 코드에 직접 통합할 필요가 없으며, 문서 변환을 독립적인 네트워크 서비스로 처리할 수 있습니다.

작동 방식

Docling 변환 엔진을 웹 서버(FastAPI로 구축)로 감싸 문서 처리를 위한 안정적인 v1 API를 제공합니다. 사용자는 HTTP 요청(예: curl 또는 사용자 지정 클라이언트 사용)을 통해 문서를 보내고 변환된 결과를 받을 수 있습니다. 이 프로젝트는 Python 패키지와 다양한 하드웨어(CPU, CUDA 12.8, CUDA 13.0, ROCm)에 최적화된 여러 컨테이너 이미지를 포함한 다양한 배포 옵션을 제공합니다.

대상 사용자

고품질 문서 변환 기능을 기존 소프트웨어 파이프라인에 통합해야 하거나, 컨테이너화된 환경에서 변환 엔진을 배포하려는 개발자 및 조직.

주요 특징

  • API 우선 접근 방식: 안정적인 v1 API와 자동화된 API 문서를 제공합니다.
  • 유연한 배포: CPU 및 여러 NVIDIA CUDA 버전에 최적화된 전용 컨테이너 이미지를 제공하여 성능을 극대화합니다.
  • 대화형 플레이그라운드: 코드를 작성하지 않고도 변환을 테스트할 수 있는 내장 UI가 포함되어 있습니다.
  • 하드웨어 지원: linux/amd64 및 linux/arm64를 포함한 다양한 아키텍처를 지원합니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트