aiptimizer/TurboOCR

何を解決するか

TurboOCR は、画像および PDF を構造化された Markdown に変換する高パフォーマンス GPU 並列処理ドキュメントパーサーです。従来の OCR エンジンや Vision Language Models (VLM) よりもはるかに高速でありながら、フォーム、領収書、密集したドキュメントにおいて高い精度を維持する、遅延の大きなボトルネックである OCR（光学式文字認識）およびドキュメント解析の課題を解決します。

動作方法

このプロジェクトは、C++、CUDA、TensorRT を使用したマルチステージパイプラインを実装しており、最大の効率性を実現しています。テキスト検出および認識には PP-OCRv6 モデルファミリーを活用し、レイアウト解析にはオプションで PP-DocLayoutV3、表を HTML に変換するための SLANet-Plus、数式を LaTeX に変換するための PP-FormulaNet-S を統合しています。すべての処理は NVIDIA GPU 上でローカルで実行され、HTTP および gRPC の API を通じてリクエストを処理できます。

対象ユーザー

大量のドキュメントをスケールして処理する必要がある開発者や組織向けです。特に、オンデバイスの VLM や外部 API に依存せずに、スキャンされた画像や PDF から高速かつ構造化された出力（Markdown、HTML、LaTeX）を得たいユーザーに最適です。

特徴

• 極めて高いスループット：RTX 5090 で領収書の処理速度が最大 559 枚/秒に達します。
• 包括的な解析：テキスト、レイアウト、表（HTML に変換）、数学的式（LaTeX に変換）をすべて処理可能です。
• 多言語対応：ラテン、中国語、日本語をネイティブサポート。アラビア語、キリル文字、韓国語、タイ語、ギリシャ語も追加サポート。
• 最適化されたスタック：C++20 と TensorRT で構築。ワンライン Docker デプロイと Prometheus メトリクスによる監視をサポート。