High-Logic/Genie-TTS

GPT-SoVITS ONNX Inference Engine & Model Converter

解决的问题

GENIE 是一个轻量级推理引擎,旨在让高质量语音合成 (TTS) 变得快速且高效,特别针对 CPU 性能进行优化。它移除了原始 GPT-SoVITS 项目的繁重依赖项,无需强大的 GPU 即可实现近乎即时的音频生成。

工作原理

它基于 GPT-SoVITS V2 和 V2ProPlus 模型,将其转换为优化的 ONNX 格式。如此一来,与官方的 PyTorch 和 ONNX 实现相比,它减少了运行时大小和首次推理延迟。它还提供了简化的 Python API,用于加载角色语音、设置用于情感克隆的参考音频以及运行合成。

适用人群

希望将高质量、多语言 TTS 集成到应用程序中的开发者和用户,且无需承担大型 ML 框架的开销或需要专用 GPU 硬件。

亮点

  • CPU 优化:与官方模型相比,首次推理延迟显著降低,运行时内存占用更小。
  • 多语言支持:支持日语、英语、中文和韩语。
  • ** uma API**:简单的 pip install 和几行代码即可从预定义或自定义角色生成语音。
  • 模型转换:包含内置工具,可将原始 .pth 和 .ckpt GPT-SoVITS 模型转换为优化的 ONNX 格式。
  • API 服务器:内置 FastAPI 服务器,易于部署为 Web 服务。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目