KittenML/KittenTTS

Open-source State-of-the-art TTS model which runs on a CPU 😻

解决的问题

Kitten TTS 提供了一个灵活的开源文本转语音 (TTS) 解决方案,能够实现高质量、富有表现力的语音合成,并支持语音克隆和多语言输出。它旨在高效运行于包括 CPU 在内的消费级硬件上,无需专用 GPU。

工作原理

该库使用了一个 1.7B 参数的语音语言模型 (KittenTTS 2),可以通过 47 种内置音色或用户提供的 5-30 秒音频参考进行即时语音克隆。它支持通过标记标签(例如 [emotion]、(((emphasis))))进行高级表达控制,并通过自动句子感知分块处理长文本。对于 CPU 受限的环境,它通过自定义的 llama.cpp 分支或轻量级 ONNX 模型提供优化推理。

适用人群

本项目适用于需要将高质量、可定制的语音合成集成到应用程序中,且不依赖昂贵云 API 的开发者和研究人员。它特别适合构建本地优先或资源受限的 AI 应用程序,且需要实时音频生成的场景。

亮点

  • 即时语音克隆: 仅需 5-30 秒音频即可克隆任何说话人,无需微调。
  • CPU 优化: 在标准 CPU 上实时运行,支持大规模模型和轻量级(15M-80M 参数)替代方案。
  • 多语言支持: 能够生成 20 种不同语言的语音。
  • 表达控制: 支持情感标签和语音事件,以引导生成语音的语调和表达。
  • 灵活的后端: 支持标准 Python 使用、优化的 C++ CPU 推理以及用于高性能 GPU 环境的 vLLM。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目