liuzhao1225/YouDub-webui

Open-source AI video localization and dubbing for YouTube/Bilibili: speech recognition, subtitle translation, voice cloning, audio mixing and rendering. 开源 AI 视频翻译配音工具。

解决的问题

YouDub WebUI 是一个开源工具,旨在自动化从 YouTube 和 Bilibili 等平台获取视频的本地化处理。它消除了手动分离音频、翻译字幕和录制新配音的工作,使创作者能够在保留原始背景音乐和音效的同时,快速将视频转换为不同语言。

工作原理

该项目实现了一个完整的端到端流程:

  1. 下载:使用 yt-dlp 从 URL 获取视频。
  2. 音频分离:使用 Demucs 将人声从背景噪音中分离。
  3. 语音识别:使用 openai-whisper 识别语音并生成单词级时间戳。
  4. 翻译:通过 OpenAI 兼容的 Chat Completions API 进行文本翻译。
  5. 语音生成:使用 VoxCPM2 基于参考音频生成目标语言的配音。
  6. 最终合成:对新配音时长进行对齐,与原始背景音频混合,并使用 FFmpeg 嵌入字幕并导出最终 MP4 文件。

适用人群

专为希望拥有本地可控视频本地化流程的个人内容创作者、开发者和小型团队设计,适用于跨语言内容分发场景。

核心亮点

  • 端到端自动化:从初始 URL 到最终渲染视频,全流程自动处理。
  • 本地优先架构:所有中间产物、Cookie 和日志均通过 SQLite 本地存储。
  • 失败恢复支持:支持从任务失败的具体阶段重新开始。
  • 跨语言支持:特别优化了英语→中文(YouTube)和中文→英语(Bilibili)的工作流。
  • 可自定义流程:模块化架构允许用户轻松替换 ASR、TTS 或翻译后端。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目