browser-use/video-use

Edit videos with coding agents

解决的问题

视频编辑通常是一个手动且耗时的过程,涉及复杂的软件菜单和时间线。video-use 允许用户通过 AI 代理(如 Claude Code)使用自然语言编辑视频,无需手动剪辑、去除填充词和繁琐的格式化任务。

工作原理

系统并非处理每一帧视频(这既计算成本高又充满噪声),而是采用两层方法为 LLM 提供视频的“阅读”视图:

  1. 音频转录层: 它使用 ElevenLabs Scribe 生成词级时间戳、说话人识别和音频事件,将素材压缩成一个小型文本文件,便于 LLM 轻松处理。
  2. 视觉合成层: 按需生成特定时间范围的“时间线视图”(包含胶片条、波形和单词标签的 PNG),帮助 LLM 在剪切点做出精确决策或解决歧义。

一旦 LLM 提出编辑策略,它会生成编辑决策列表(EDL)并使用 ffmpeg 渲染视频。随后,自我评估循环会检查渲染输出是否存在视觉跳跃或音频爆音,然后再将最终结果呈现给用户。

适用人群

内容创作者、教育工作者以及制作人物访谈视频、混剪、教程、旅行 vlog 或采访的专业人士,希望自动化编辑过程中繁琐的部分。

亮点

  • 自动清理: 自动去除填充词(例如“嗯”、“呃”)和镜头之间的空白片段。
  • AI 驱动增强: 自动调色和 30ms 音频淡入淡出,防止剪切处出现爆音。
  • 动态叠加: 通过并行子代理使用 HyperFrames、Remotion、Manim 或 PIL 等工具生成动画叠加。
  • 可自定义字幕: 烧录带有可自定义格式的样式化字幕。
  • 自我评估流水线: 自动检查渲染的剪切片段是否存在错误,并在发现问题时重新渲染。
  • 会话持久化: 将项目状态保存在 markdown 文件中,以便稍后恢复编辑会话。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目