RVC-Boss/GPT-SoVITS
1 min voice data can also be used to train a good TTS model! (few shot voice cloning)
解决的问题
GPT-SoVITS 旨在使用极少的数据创建高度逼真的文本到语音(TTS)和语音转换系统。它解决了需要大量数据集才能克隆特定人声的问题,使用户仅需几秒钟的音频样本即可生成听起来像目标说话者的语音。
工作原理
该项目结合了 GPT 和 SoVITS 架构来处理语音克隆。它提供两种主要操作模式:
- 零样本 TTS:使用 5 秒的语音样本作为参考,无需进一步训练即可生成语音。
- 少样本 TTS:使用约 1 分钟的训练数据对模型进行微调,显著提升语音相似度和真实感。
支持跨语言推理,即使训练数据使用的是不同语言,也能生成英语、日语、韩语、粤语和中文的语音。
适用人群
本工具适用于希望在无需专业录音室录制或数小时训练数据的情况下,为内容创作或应用开发克隆语音的创作者、开发者和 AI 爱好者。
主要亮点
- 极低的数据需求:仅需 5 秒(零样本)或 1 分钟(少样本)的音频即可克隆语音。
- 跨语言支持:支持多种语言,包括英语、日语、韩语、粤语和中文。
- 支持 WebUI:提供全面的 WebUI,用于管理整个流程,包括音频切片、降噪、ASR(自动语音识别)用于转录,以及模型训练。
- 支持 Docker:提供 Docker 镜像,便于在不同硬件环境中进行安装和部署。
- 高速推理:经过优化,生成速度快,特定版本(如 v2 ProPlus)在现代 GPU 上表现出极低的实时因子(RTF)。
相关
- 项目
- 项目
- 项目
- 项目
- 项目