opendataloader-project/opendataloader-pdf
PDF Parser for AI-ready data. Automate PDF accessibility. Open-source.
OpenDataLoader PDF – AI対応のPDF解析とアクセシビリティ
できること – PDF(デジタル、スキャン、既にタグ付け済み)を構造化されたAIフレンドリーな形式に変換します:
- Markdown、JSON(要素ごとのバウンディングボックス付き)、HTML – チャンキングや検索拡張生成にすぐ対応。
- タグ付きPDF – PDF/UA互換のタグを自動的に追加し、スクリーンリーダーが文書を読めるようにします。
- エンタープライズアドオン – PDF/UA-1/2エクスポートとビジュアル「アクセシビリティスタジオ」。
なぜ重要か – PDFコンテンツはLLMにとって非常に扱いにくいものです:読み順が失われ、表が崩れ、引用のための座標がありません。OpenDataLoader PDFは決定論的なローカルパーサーと、難しいページをリモートモデルにルーティングするオプションの「ハイブリッド」AIモードを提供し、オープンソースPDFパーサーの中で最高のベンチマークスコア(総合0.907、表0.928)を達成しています。
主要な技術ポイント
- ローカルエンジン(Java 11+、Python/Node/Java SDKから呼び出し)は、XY-Cut++読み順検出による高速で決定論的な出力を提供します。
- ハイブリッドモード – 軽量サーバー(
opendataloader-pdf-hybrid)が複雑なページをAIバックエンドに転送し、OCR、表の再構築、数式抽出(LaTeX)、画像説明生成(256M SmolVLMモデルを使用)を行います。これにより、罫線のない表でも90%以上の表精度が得られます。 - バウンディングボックス – すべての要素(テキスト、見出し、リスト、画像、表、数式)に対して、RAGパイプラインでの正確なソース引用を可能にします。
- アクセシビリティ – 無料の自動タグ付けはPDF AssociationのWell-Tagged PDF仕様に準拠し、veraPDFで検証されています。完全なPDF/UA準拠は有料のエンタープライズ機能として提供されます。
- 多言語OCR – EasyOCR(デフォルト)または代替エンジン(RapidOCR、Tesseract、Apple Vision、NVIDIA Nemotron OCR)による80以上の言語。
使い方(クイックスタート)
pip install -U opendataloader-pdf # Python SDK(Java 11+が必要)
import opendataloader_pdf
opendataloader_pdf.convert(
input_path=["file1.pdf", "folder/"],
output_dir="out/",
format="markdown,json"
)
Node と Java SDKも同様のコマンドで利用可能です。
ハイブリッドモードを有効にする場合 – 以下のようなPDFの場合:
- 複雑な、または罫線のない表
- スキャン画像(OCRが必要)
- 数式
- AI生成の代替テキストが必要なグラフ 追加の依存関係をインストールし、バックエンドサーバーを実行します。例:
pip install "opendataloader-pdf[hybrid]"
opendataloader-pdf-hybrid --port 5002 # AIサーバーを起動
opendataloader-pdf --hybrid docling-fast file.pdf # クライアント呼び出し
パフォーマンス – ローカルモードは1ページを約0.015秒で処理します。ハイブリッドモードはAI強化ページに1ページあたり約0.45秒を追加します。コアパーサーにGPUは不要です。AI強化はCPU(またはオプションのGPU対応OCRバックエンド)で実行されます。
エコシステム – ライブラリはPyPI、npm、Maven Centralで提供されており、Python、JavaScript、Javaアプリケーションに簡単に組み込めます。シームレスなRAGパイプラインのためにLangChain統合も提供されています。
ライセンスと価格 – コア抽出と自動タグ付けはApache-2.0(無料)です。PDF/UAエクスポート、ビジュアルアクセシビリティスタジオ、エンタープライズグレードのサポートは商用アドオンです。
要するに、OpenDataLoader PDFは、PDF解析とアクセシビリティを現代のLLM駆動ワークフローのニーズに橋渡しする真のオープンソースツールです。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト