docling-project/docling-serve

Running Docling as an API service

解决的问题

Docling Serve 允许用户将 AI 驱动的文档转换工具包 Docling 作为可扩展的 API 服务运行。这消除了将库直接集成到应用程序代码中的需求,使文档转换可以作为独立的网络服务来处理。

运作方式

它将 Docling 转换引擎封装在 Web 服务器(使用 FastAPI 构建)中,为文档处理提供稳定的 v1 API。用户可以通过 HTTP 请求(例如使用 curl 或自定义客户端)发送文档并接收转换后的输出。该项目提供了多种部署选项,包括 Python 包以及针对不同硬件(CPU、CUDA 12.8、CUDA 13.0 和 ROCm)优化的各种容器镜像。

适用对象

需要将高质量文档转换功能集成到现有软件流程中,或是在容器化环境中部署转换引擎的开发者与组织。

特色亮点

  • API 优先方法:提供稳定的 v1 API 与自动化 API 文档。
  • 灵活部署:提供针对 CPU 和多种 NVIDIA CUDA 版本优化的专用容器镜像,以提升性能。
  • 交互式测试界面:内置 UI,无需编写代码即可测试转换效果。
  • 硬件支持:支持多种架构,包括 linux/amd64 和 linux/arm64。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目