RVC-Boss/GPT-SoVITS
1 min voice data can also be used to train a good TTS model! (few shot voice cloning)
解決的問題
GPT-SoVITS 設計用於以極少的資料創建高度逼真的語音合成(TTS)與語音轉換系統。它解決了需要龐大資料集才能克隆特定人聲的問題,讓使用者僅需數秒的音訊樣本,即可生成聽起來像目標講者語音的語音。
工作原理
此專案結合 GPT 與 SoVITS 架構來處理語音克隆。提供兩種主要運作模式:
- 零樣本 TTS:僅使用 5 秒的語音樣本作為參考,無需進一步訓練即可生成語音。
- 少樣本 TTS:使用約 1 分鐘的訓練資料微調模型,大幅提升語音相似度與真實感。
支援跨語言推論,即使訓練資料使用不同語言,也能生成英語、日語、韓語、粵語與中文的語音。
適用對象
此工具適合希望在無需專業錄音室錄製或數小時訓練資料的情況下,為內容創作或應用開發克隆語音的創作者、開發者與 AI 愛好者。
主要亮點
- 極低的資料需求:僅需 5 秒(零樣本)或 1 分鐘(少樣本)的音訊即可克隆語音。
- 跨語言支援:支援多種語言,包括英語、日語、韓語、粵語與中文。
- 支援 WebUI:提供完整的 WebUI,用於管理整個流程,包含音訊切片、降噪、ASR(自動語音辨識)用於轉錄,以及模型訓練。
- 支援 Docker:提供 Docker 映像,便於在不同硬體環境中進行安裝與部署。
- 高速推論:經過優化,生成速度極快,特定版本(如 v2 ProPlus)在現代 GPU 上表現出極低的即時因子(RTF)。
相關
- 專案
- 專案
- 專案
- 專案
- 專案