run-llama/liteparse

A fast, helpful, and open-source document parser

何を解決するか

LiteParse は高速で軽量な、スタンドアロンのオープンソース PDF パーサーです。クラウド依存やプロプライエタリな LLM 機能を必要とせずに、ローカルで高品質な空間テキストと構造を抽出する問題を解決します。

動作方法

Rust コアで構築された LiteParse は、PDFium を使って高速なテキスト抽出を行い、グリッド投影システムで空間レイアウトを再構成します。LibreOffice や Rust ベースの画像クレートを介して、PDF、DOCX、XLSX、PPTX、画像など複数の入力形式を変換することで対応しています。OCR を必要とする文書には、組み込みの Tesseract エンジンまたは標準 HTTP API を通じて外部 OCR サーバー(EasyOCR や PaddleOCR など)を統合可能です。その後、ページをブロック(見出し、表、リストなど)に分類し、構造化された Markdown、JSON、またはプレーンテキストを出力します。

対象ユーザー

RAG パイプラインや LLM エージェントを開発する開発者向けです。クラウドサービスの遅延やコストを避けつつ、正確なバウンディングボックスと構造化出力を提供するローカルで高性能なドキュメントパーサーが必要な方々に最適です。

特徴

  • 高パフォーマンス: 1ページあたりの空間テキスト解析は通常 2–5ms です。
  • ローカル実行: Linux、macOS、Windows でユーザーのマシン上で完全に実行可能。
  • 多言語対応: Rust、Node.js/TypeScript、Python、ブラウザ(WASM)向けのライブラリと CLI ツールを提供。
  • 柔軟な OCR: セットアップ不要の Tesseract をバンドルし、標準 API を通じてカスタム OCR サーバーもサポート。
  • 構造化出力: テーブルや見出しを含む Markdown、JSON、プレーンテキストを生成。テキストおよびレイアウトブロックの正確なバウンディングボックスも出力。
  • エージェント対応: エージェントスキルとして統合可能で、LLM エージェント用の高品質なページスクリーンショットも生成。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト