bradautomates/claude-video
Give Claude the ability to watch any video. /watch downloads, extracts frames, transcribes, hands it all to Claude.
解决的问题
此项目提供了一种让 AI 代理(如 Claude Code 或 Codex)能够“观看”视频的方法,将其转换为代理可以理解的格式:带有时间戳的帧与逐字稿。它允许代理分析视频内容、总结视觉事件,并提供来自本地文件与 URL 的带时间戳证据。
运作方式
该工具通过两个主要引擎运作:
- Gemini Engine:将视频直接发送至 Google 的代理视频模型进行分析,并传回带有时间戳的答案。
- Local Engine:使用
ffmpeg和yt-dlp在用户机器上处理视频,以提取帧与逐字稿。它通过多种选项处理转录:原生字幕、通过 WhisperX 进行本地推论(在独立的 Python 环境中管理),或使用 Groq 和 OpenAI 等云端 API。
适用对象
需要让 AI 代理处理与分析视频证据的本地 AI 代理(Claude Code、Codex 及其他 Agent Skills 主机)开发者与用户。
特色亮点
- 多引擎支持:可选择高性能云端分析 (Gemini) 或私有本地处理。
- 灵活的转录功能:支持原生字幕、本地 WhisperX 转录以及云端 Whisper API (Groq/OpenAI)。
- 代理整合:原生支持 Claude Code (Desktop, VS Code, Terminal) 与 Codex 插件。
- 可自定义细节:提供不同的采样模式 (
efficient,balanced,token-burner),根据代理的 Token 预算控制提取的帧数量。 - 智能帧选择:使用场景变更检测与 RGB 缩略图去重,以避免冗余帧。
相关
- 项目
- 项目
- 项目
- 项目