docling-project/docling-serve
Running Docling as an API service
解決する課題
Docling Serveを使用すると、AI駆動のドキュメント変換ツールキットであるDoclingをスケーラブルなAPIサービスとして実行できます。これにより、ライブラリをアプリケーションコードに直接統合する必要がなくなり、ドキュメント変換をスタンドアロンのネットワークサービスとして処理できるようになります。
仕組み
Docling変換エンジンをWebサーバー（FastAPIで構築）でラップし、ドキュメント処理のための安定したv1 APIを提供します。ユーザーはHTTPリクエスト（curlやカスタムクライアントなど）を介してドキュメントを送信し、変換された出力を受け取ることができます。このプロジェクトでは、Pythonパッケージや、さまざまなハードウェア（CPU、CUDA 12.8、CUDA 13.0、ROCm）向けに最適化されたコンテナイメージなど、複数のデプロイオプションを提供しています。
対象ユーザー
高品質なドキュメント変換機能を既存のソフトウェアパイプラインに統合する必要がある、またはコンテナ化された環境で変換エンジンをデプロイしたい開発者や組織。
ハイライト
- APIファーストのアプローチ: 安定したv1 APIと自動生成されるAPIドキュメントを提供します。
- 柔軟なデプロイ: CPUおよび複数のNVIDIA CUDAバージョン向けに最適化された専用コンテナイメージを提供し、パフォーマンスを最大化します。
- インタラクティブなプレイグラウンド: コードを書かずに変換をテストできる組み込みUIが含まれています。
- ハードウェアサポート:
linux/amd64やlinux/arm64を含む複数のアーキテクチャをサポートしています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト