aiptimizer/TurboOCR

解决的问题

TurboOCR 是一个高性能 GPU 加速文档解析器，旨在将图像和 PDF 转换为结构化 Markdown。它解决了传统 OCR 引擎或视觉语言模型（VLM）速度慢的瓶颈问题，同时在表单、收据和密集文档上保持高精度，处理速度远超传统方案。

工作原理

该项目采用 C++、CUDA 和 TensorRT 构建多阶段流水线，以实现最大效率。它使用 PP-OCRv6 模型家族进行文本检测与识别，并可选集成 PP-DocLayoutV3 进行布局分析、SLANet-Plus 将表格转换为 HTML，以及 PP-FormulaNet-S 将公式转换为 LaTeX。整个流程在 NVIDIA GPU 上本地运行，提供 HTTP 和 gRPC API 以处理请求。

适用人群

适用于需要大规模处理大量文档的开发者和组织，特别是那些希望在不依赖设备端 VLM 或外部 API 的情况下，从扫描图像或 PDF 中快速获得结构化输出（Markdown、HTML、LaTeX）的用户。

主要亮点

• 极高的吞吐量：在 RTX 5090 上处理收据时，每秒可处理高达 559 张图像。
• 全面的解析能力：支持文本、布局、表格（转换为 HTML）和数学公式（转换为 LaTeX）。
• 多语言支持：原生支持拉丁文、中文和日文，额外支持阿拉伯文、西里尔文、韩文、泰文和希腊文。
• 优化的堆栈：基于 C++20 和 TensorRT 构建，支持一键式 Docker 部署，并提供 Prometheus 指标用于监控。