NVIDIA-AI-Blueprints/pdf-to-podcast

解决的问题

此项目提供了一个将静态 PDF 文档转换为引人入胜的对话式音频播客的框架。它旨在帮助开发者创建能够从文档中提取信息并将其合成为自然语音的应用程序，并具备在私有网络上安全运行的灵活性。

工作原理

该应用程序使用由 NVIDIA NIM 微服务驱动的模块化流水线。它使用 Docling 从目标和上下文 PDF 中提取文本，利用 LLM（如 Llama 3.1）处理内容以生成对话式脚本，然后使用 ElevenLabs 文本转语音服务将文本转换为音频。整个堆栈通过 Docker Compose 进行编排，支持本地开发或在具有 GPU 加速的基础设施上部署。

适用对象

此蓝图旨在为希望构建文档转音频应用程序的开发者和企业团队提供支持。对于需要安全处理敏感数据的用户尤其有用，因为它允许自托管推理组件，而不必完全依赖公共云 API。

亮点

• 灵活的 LLM 集成： 支持多种 NVIDIA NIM 模型（Llama 3.1 8B, 70B 或 Nemotron 49B）用于生成脚本。
• 文档感知： 可以摄入多个上下文 PDF，为代理提供额外的参考资料，以获得更准确的内容。
• 可定制的输出： 支持单人独白和多人播客格式。
• 生产就绪架构： 内置对 Jaeger 追踪的支持，用于监控和调试，并具有可根据硬件可用性进行扩展或替换的模块化组件。