Dai-Wenxun/MotionLCM

[ ECCV 2024 ] MotionLCM: This repo is the official implementation of "MotionLCM: Real-time Controllable Motion Generation via Latent Consistency Model"

解决的问题

MotionLCM 解决了现有文本条件人类动作生成模型的运行时效率低下问题。尽管以往的空间-时间控制方法速度较慢,MotionLCM 仍能实现从文本和控制信号实时生成可控制的人类动作。

工作原理

该项目实现了一个基于动作潜在扩散模型的运动潜在一致性模型(MotionLCM)。通过使用单步或少量步数的推理,实现了实时性能。为保持可控性,它在潜在空间中集成了一个运动 ControlNet,并在原始动作空间中使用显式控制信号(如初始动作)作为训练期间的监督信号。

适用人群

本工具专为从事人类动作合成、计算机动画和AI驱动角色控制的研究人员和开发者设计。

主要亮点

  • 实时生成:使用潜在一致性模型,将推理步骤减少到一步或少数几步。
  • 可控合成:通过专用 ControlNet 支持文本到动作以及动作控制。
  • 完整流水线:包含动作重建、文本到动作生成和 SMPL 网格渲染的工具。
  • 灵活控制:支持基于特定关节(如骨盆)或同时控制多个关节。

相关

  • 项目
  • 项目
  • 项目
  • 项目