datalab-to/lift

解決する課題

liftは、PDFや画像から構造化されたJSONデータを抽出するために設計されています。モデルが従うべき特定のJSONスキーマをユーザーが定義できるようにすることで、非構造化ドキュメントの情報を機械可読な形式に変換する問題を解決します。

仕組み

9Bビジョンモデルを活用し、ドキュメント（複数ページのPDFを含む）を一度のパスで処理します。このシステムはスキーマ制約付きデコーディングを採用しており、出力が提供されたスキーマに厳密に一致する有効なJSONオブジェクトであることを保証します。ユーザーはHuggingFaceを通じてローカルでモデルを実行するか、vLLMサーバーを使用して最適化された本番環境やバッチ処理を行うことができます。

対象ユーザー

このツールは、請求書やレポートなどのドキュメントから特定のフィールドを自動的に抽出する必要がある開発者やデータエンジニア、およびダウンストリームアプリケーションのために保証されたJSON出力を必要とするユーザー向けです。

ハイライト

• Schema-Constrained Decoding: ユーザーのスキーマに一致する有効なJSON出力を保証します。
• 複数ページ対応: 値が複数ページにまたがるドキュメントを一度のパスで処理します。
• 柔軟な推論: ローカルでのHuggingFace実行と、リモートのvLLMサーバーデプロイの両方をサポートします。
• Schema Studio: スキーマの構築とテストを行うためのStreamlitベースのインタラクティブアプリが含まれています。
• 高性能: 他のいくつかのモデルと比較して、高いフィールド精度と低いレイテンシをベンチマークで実証しています。