liuzhao1225/YouDub-webui
Open-source AI video localization and dubbing for YouTube/Bilibili: speech recognition, subtitle translation, voice cloning, audio mixing and rendering. 开源 AI 视频翻译配音工具。
解决的问题
YouDub WebUI 是一个开源工具,旨在自动化从 YouTube 和 Bilibili 等平台获取视频的本地化处理。它消除了手动分离音频、翻译字幕和录制新配音的工作,使创作者能够在保留原始背景音乐和音效的同时,快速将视频转换为不同语言。
工作原理
该项目实现了一个完整的端到端流程:
- 下载:使用
yt-dlp从 URL 获取视频。 - 音频分离:使用
Demucs将人声从背景噪音中分离。 - 语音识别:使用
openai-whisper识别语音并生成单词级时间戳。 - 翻译:通过 OpenAI 兼容的 Chat Completions API 进行文本翻译。
- 语音生成:使用
VoxCPM2基于参考音频生成目标语言的配音。 - 最终合成:对新配音时长进行对齐,与原始背景音频混合,并使用
FFmpeg嵌入字幕并导出最终 MP4 文件。
适用人群
专为希望拥有本地可控视频本地化流程的个人内容创作者、开发者和小型团队设计,适用于跨语言内容分发场景。
核心亮点
- 端到端自动化:从初始 URL 到最终渲染视频,全流程自动处理。
- 本地优先架构:所有中间产物、Cookie 和日志均通过 SQLite 本地存储。
- 失败恢复支持:支持从任务失败的具体阶段重新开始。
- 跨语言支持:特别优化了英语→中文(YouTube)和中文→英语(Bilibili)的工作流。
- 可自定义流程:模块化架构允许用户轻松替换 ASR、TTS 或翻译后端。
相关
- 项目
- 项目
- 项目
- 项目
- 项目