Mr-funny/hbg-classical-poem-silk-video

Agent Skill for turning Chinese classical poems into vertical Chinese-art videos with ImageGen stills, Docker I2V, calligraphy captions, retained ambience, BGM and final MP4 QA.

是什么

hbg‑classical‑poem‑silk‑video 是一个 Agent Skill(AI 编码代理如 Codex 或 Claude Code 的插件),可将中文古典诗歌转换为竖向格式(1080 × 1920)的「丝绢视频」——一种短时、高质量的中国画风格动画。该技能解析诗歌,拆分为场景,使用内置 ImageGen 模型生成静态中国画帧,将这些帧输入基于 Gemini 的 图像→视频(I2V)Docker 容器,添加运动提示(水波纹、飞鸟、马蹄声等),叠加毛笔字幕,混合原始模型生成的环境音与可选背景音乐,并最终生成经过 QA 检查的 MP4。


如何获取

仓库自带一个 install.sh 脚本,可直接在命令行运行。该脚本会检测用户的代理(Codex 或 Claude Code),并将技能文件复制到代理的全局 skills 目录(默认 ~/.codex/skills/classical-poem-silk-video)。示例一行命令:

curl -fsSL https://raw.githubusercontent.com/Mr-funny/hbg-classical-poem-silk-video/main/install.sh | sh

您也可以手动克隆仓库,并将 skill/classical-poem-silk-video 文件夹复制到相应位置。


如何运行该技能

安装后,用自然语言与您的代理对话,例如:

使用 $classical-poem-silk-video 制作《枫桥夜泊》。
四句诗一行一景,画面色调随诗意变化;镜头固定,
让月光、水纹、乌鸦、霜雾和渔火在画中自然运动。
保留 AI 环境原声,毛笔字逐字出现,场景之间自然交叉溶解。

代理将执行以下步骤:

  1. 解析 诗歌(识别时代、季节、意象、情感弧线)。
  2. 分镜 —— 短诗每行一景,长诗每两行一景。
  3. 选择中国画风格(水墨、工笔、青绿、骑马等),根据诗歌情绪决定。
  4. 生成静态帧,使用内置 ImageGen 模型,并为竖向毛笔字幕预留安全区域。
  5. 调用 Gemini I2V Docker 容器gemini-flow-suite)对帧进行动画处理,使用精心设计的运动提示,固定镜头,仅移动目标对象。
  6. 添加字幕,使用 Ma Shan Zheng 毛笔字体(先右列后左列)。
  7. 混合音频 —— 保留模型生成的环境音,可选叠加背景音乐。
  8. 交叉淡入淡出过渡(视频与音频均适用),并运行最终 QA 脚本,检查黑帧、音频断点、帧数是否正确、视觉一致性(如无多余飞鸟、畸形马腿等)。

最终结果为一个 1080 × 1920、30 fps、H.264 + AAC 的 MP4,可直接分享。


关键技术组件

组件 功能
诗歌解析器 提取时代、地点、季节、意象、动作和情感曲线。
分镜引擎 分组诗句(≤4行 → 一行一景;更长 → 两行一景)。
风格选择器 在水墨、工笔、青绿、骑马等风格间切换,保持统一的中国画基因。
静态帧生成器 调用代理内置的 ImageGen 模型;为竖向字幕预留安全区域。
Docker I2V 运行 Gemini Flow Suite 容器(gemini-flow-suite),将帧转为带可控局部运动的短视频片段。
运动提示模板 四段式提示(固定锚点、局部运动区、稳定结尾、防幻觉规则),防止画作被意外“重写”。
字幕渲染器 使用 SIL‑OFL Ma Shan Zheng 毛笔字体,竖向双列布局,逐字显现。
音频混音器 保留模型生成的环境音,可选叠加用户提供的 BGM,并与交叉淡入淡出同步。
最终 QA 脚本 使用 ffprobeffmpeg 滤镜(blackdetectsilencedetectvolumedetect)和可选时间戳 TSV,验证运动一致性、帧完整性与编码规格。

适合谁使用

  • 希望生成 AI 生成、文化上真实可信的短视频用于社交媒体(微博、抖音、B站)的 内容创作者
  • 寻找古典诗歌动画插图的 教育工作者
  • 需要现成技能展示多模态生成(文本 → 图像 → 视频 → 音频)的 AI 代理开发者
  • 对可控图像→视频生成提示工程感兴趣的 研究人员

许可与合规

  • 所有脚本、技能定义和文档均在 MIT 许可证 下发布。
  • 内置 Ma Shan Zheng 字体遵循 SIL 开放字体许可证 1.1
  • 该技能明确不处理任何密钥、Cookie 或用户提供的媒体;仅操作用户提供的诗歌文本和可选 BGM。

快速入门检查清单

  1. 使用上述单行命令安装技能。
  2. 确保 Docker 正在运行,且 gemini-flow-suite 镜像可用(请参考其 README)。
  3. 运行 skill/classical-poem-silk-video/scripts/check_prerequisites.sh 验证环境。
  4. 让您的代理为任意诗歌生成视频。
  5. 生成 MP4 后,可选运行 final_media_qa.sh 确认质量。

示例输出

仓库包含《钱塘湖春行》(8行 → 4场景)的完整示例。最终视频(约32秒,1080 × 1920)可在 Releases 页面获取,并在 docs/article.md 中讨论。

相关

  • 项目
  • 项目
  • 项目
  • 项目