High-Logic/Genie-TTS
GPT-SoVITS ONNX Inference Engine & Model Converter
解决的问题
GENIE 是一个轻量级推理引擎,旨在让高质量语音合成 (TTS) 变得快速且高效,特别针对 CPU 性能进行优化。它移除了原始 GPT-SoVITS 项目的繁重依赖项,无需强大的 GPU 即可实现近乎即时的音频生成。
工作原理
它基于 GPT-SoVITS V2 和 V2ProPlus 模型,将其转换为优化的 ONNX 格式。如此一来,与官方的 PyTorch 和 ONNX 实现相比,它减少了运行时大小和首次推理延迟。它还提供了简化的 Python API,用于加载角色语音、设置用于情感克隆的参考音频以及运行合成。
适用人群
希望将高质量、多语言 TTS 集成到应用程序中的开发者和用户,且无需承担大型 ML 框架的开销或需要专用 GPU 硬件。
亮点
- CPU 优化:与官方模型相比,首次推理延迟显著降低,运行时内存占用更小。
- 多语言支持:支持日语、英语、中文和韩语。
- ** uma API**:简单的
pip install和几行代码即可从预定义或自定义角色生成语音。 - 模型转换:包含内置工具,可将原始
.pth和.ckptGPT-SoVITS 模型转换为优化的 ONNX 格式。 - API 服务器:内置 FastAPI 服务器,易于部署为 Web 服务。
相关
- 项目
- 项目
- 项目
- 项目
- 项目