aiptimizer/TurboOCR

해결하는 문제

TurboOCR는 이미지와 PDF를 구조화된 Markdown으로 변환하는 고성능 GPU 가속 문서 파서입니다. 전통적인 OCR 엔진이나 비전 언어 모델(VLM)보다 훨씬 빠른 속도를 제공하면서도, 양식, 영수증, 밀도 높은 문서에 대해 높은 정확도를 유지하며, 느린 OCR(광학 문자 인식) 및 문서 파싱의 성능 저하 문제를 해결합니다.

작동 방식

이 프로젝트는 최대 효율성을 위해 C++, CUDA, TensorRT를 사용한 다단계 파이프라인을 구현합니다. 텍스트 검출 및 인식에는 PP-OCRv6 모델 패밀리, 레이아웃 분석에는 선택적으로 PP-DocLayoutV3, 표를 HTML로 변환하기 위한 SLANet-Plus, 수식을 LaTeX로 변환하기 위한 PP-FormulaNet-S를 통합합니다. 전체 프로세스는 NVIDIA GPU에서 로컬로 실행되며, HTTP 및 gRPC API를 통해 요청을 처리할 수 있습니다.

대상 사용자

대량의 문서를 스케일링하여 처리해야 하는 개발자 및 조직을 위한 것입니다. 특히, 온디바이스 VLM이나 외부 API에 의존하지 않고 스캔된 이미지나 PDF에서 빠르고 구조화된 출력(Markdown, HTML, LaTeX)을 얻고자 하는 사용자에게 적합합니다.

주요 특징

• 극한의 처리량: RTX 5090에서 영수증 처리 속도가 최대 559장/초에 달합니다.
• 포괄적인 파싱: 텍스트, 레이아웃, 표(HTML로 변환), 수학 공식(LaTeX로 변환)을 모두 처리합니다.
• 다국어 지원: 라틴어, 중국어, 일본어를 네이티브로 지원하며, 아랍어, 콜리르 문자, 한국어, 태국어, 그리스어도 추가 지원합니다.
• 최적화된 스택: C++20과 TensorRT로 구축되었으며, 단일 명령어로 Docker 배포가 가능하고, 모니터링을 위한 Prometheus 메트릭스를 제공합니다.