opendataloader-project/opendataloader-pdf

PDF Parser for AI-ready data. Automate PDF accessibility. Open-source.

OpenDataLoader PDF – AI対応のPDF解析とアクセシビリティ

できること – PDF(デジタル、スキャン、既にタグ付け済み)を構造化されたAIフレンドリーな形式に変換します:

  • Markdown、JSON(要素ごとのバウンディングボックス付き)、HTML – チャンキングや検索拡張生成にすぐ対応。
  • タグ付きPDF – PDF/UA互換のタグを自動的に追加し、スクリーンリーダーが文書を読めるようにします。
  • エンタープライズアドオン – PDF/UA-1/2エクスポートとビジュアル「アクセシビリティスタジオ」。

なぜ重要か – PDFコンテンツはLLMにとって非常に扱いにくいものです:読み順が失われ、表が崩れ、引用のための座標がありません。OpenDataLoader PDFは決定論的なローカルパーサーと、難しいページをリモートモデルにルーティングするオプションの「ハイブリッド」AIモードを提供し、オープンソースPDFパーサーの中で最高のベンチマークスコア(総合0.907、表0.928)を達成しています。

主要な技術ポイント

  • ローカルエンジン(Java 11+、Python/Node/Java SDKから呼び出し)は、XY-Cut++読み順検出による高速で決定論的な出力を提供します。
  • ハイブリッドモード – 軽量サーバー(opendataloader-pdf-hybrid)が複雑なページをAIバックエンドに転送し、OCR、表の再構築、数式抽出(LaTeX)、画像説明生成(256M SmolVLMモデルを使用)を行います。これにより、罫線のない表でも90%以上の表精度が得られます。
  • バウンディングボックス – すべての要素(テキスト、見出し、リスト、画像、表、数式)に対して、RAGパイプラインでの正確なソース引用を可能にします。
  • アクセシビリティ – 無料の自動タグ付けはPDF AssociationのWell-Tagged PDF仕様に準拠し、veraPDFで検証されています。完全なPDF/UA準拠は有料のエンタープライズ機能として提供されます。
  • 多言語OCR – EasyOCR(デフォルト)または代替エンジン(RapidOCR、Tesseract、Apple Vision、NVIDIA Nemotron OCR)による80以上の言語。

使い方(クイックスタート)

pip install -U opendataloader-pdf   # Python SDK(Java 11+が必要)
import opendataloader_pdf
opendataloader_pdf.convert(
    input_path=["file1.pdf", "folder/"],
    output_dir="out/",
    format="markdown,json"
)

Node と Java SDKも同様のコマンドで利用可能です。

ハイブリッドモードを有効にする場合 – 以下のようなPDFの場合:

  • 複雑な、または罫線のない表
  • スキャン画像(OCRが必要)
  • 数式
  • AI生成の代替テキストが必要なグラフ 追加の依存関係をインストールし、バックエンドサーバーを実行します。例:
pip install "opendataloader-pdf[hybrid]"
opendataloader-pdf-hybrid --port 5002   # AIサーバーを起動
opendataloader-pdf --hybrid docling-fast file.pdf   # クライアント呼び出し

パフォーマンス – ローカルモードは1ページを約0.015秒で処理します。ハイブリッドモードはAI強化ページに1ページあたり約0.45秒を追加します。コアパーサーにGPUは不要です。AI強化はCPU(またはオプションのGPU対応OCRバックエンド)で実行されます。

エコシステム – ライブラリはPyPI、npm、Maven Centralで提供されており、Python、JavaScript、Javaアプリケーションに簡単に組み込めます。シームレスなRAGパイプラインのためにLangChain統合も提供されています。

ライセンスと価格 – コア抽出と自動タグ付けはApache-2.0(無料)です。PDF/UAエクスポート、ビジュアルアクセシビリティスタジオ、エンタープライズグレードのサポートは商用アドオンです。


要するに、OpenDataLoader PDFは、PDF解析とアクセシビリティを現代のLLM駆動ワークフローのニーズに橋渡しする真のオープンソースツールです。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト