TurboOCR: テキスト、レイアウト、表、数式を極めて高速にMarkdownへ抽出する高性能GPUドキュメントパーサー

解決する課題

TurboOCRは、低速な従来のOCRエンジンや重いVision Language Models (VLMs) に代わるものとして設計された、高性能なGPU加速ドキュメントパーサーです。テキスト、レイアウト、表、数式を含むドキュメントから構造化データを、完全なローカル環境かつプライバシーを保ったまま、極めて高速に抽出するという問題を解決します。

仕組み

C++、CUDA、およびTensorRTで構築されており、PP-OCRv6に基づいたマルチストリーム・パイプラインを実装しています。単一の巨大なモデルではなく、特化型モデルのスタックを使用しています：

  • Text Detection & Recognition: PP-OCRv6 (tiny, small, または medium ティア) を使用して、ラテン文字、中国語、日本語を処理します。
  • Layout Analysis: PP-DocLayoutV3 を採用し、25種類の異なるドキュメントクラスを識別して読解順序を決定します。
  • Table Extraction: SLANet-Plus を使用して、表をHTMLに変換します。
  • Formula Recognition: PP-FormulaNet-S を使用して、数式をLaTeXに変換します。

システムはHTTPおよびgRPC APIを提供するサーバーとしてデプロイされます。初回起動時にTensorRTエンジンが自動構築され、使用されている特定のNVIDIA GPUに最適化されたパフォーマンスを発揮します。

対象ユーザー

現代的なOCRの精度を必要としながらも、VLMベースのパーサーのレイテンシやコストを許容できない、高スループットなドキュメント処理（例：毎秒数千枚のレシートやフォームの処理）を必要とする開発者や組織を対象としています。

ハイライト

  • Extreme Throughput: RTX 5090上で、最大559枚/秒（レシート）の処理が可能です。
  • Structured Output: Markdown、HTML (表用)、およびLaTeX (数式用) へのエクスポートをサポートしています。
  • Native PDF Support: PDFページを並列でレンダリングおよびOCR処理し、オプションで自動回転も可能です。
  • Flexible Deployment: モニタリング用のPrometheusメトリクスを内蔵した、ワンラインのDockerデプロイメントを提供します。
  • Multi-Language Support: ラテン文字、中国語、日本語、およびアラビア語、キリル文字、韓国語、タイ語、ギリシャ語などの追加のスクリプトをカバーしています。

Sources