Dai-Wenxun/MotionLCM

[ ECCV 2024 ] MotionLCM: This repo is the official implementation of "MotionLCM: Real-time Controllable Motion Generation via Latent Consistency Model"

解決的問題

MotionLCM 解決了現有文字條件人類動作生成模型的執行時間效率低下問題。儘管以往的空間-時間控制方法速度較慢,MotionLCM 仍能實現從文字與控制訊號即時生成可控制的人類動作。

工作原理

本專案實作了一個基於動作潛在擴散模型的運動潛在一致性模型(MotionLCM)。透過使用單步或少量步數的推論,實現即時性能。為維持可控性,它在潛在空間中整合了一個運動 ControlNet,並在原始動作空間中使用顯式控制訊號(如初始動作)作為訓練期間的監督訊號。

適用對象

本工具專為從事人類動作合成、電腦動畫與AI驅動角色控制的研究人員與開發者設計。

主要亮點

  • 即時生成:使用潛在一致性模型,將推論步驟減少到一步或少數幾步。
  • 可控合成:透過專用 ControlNet 支援文字到動作以及動作控制。
  • 完整流程:包含動作重建、文字到動作生成與 SMPL 網格渲染的工具。
  • 靈活控制:支援基於特定關節(如骨盆)或同時控制多個關節。

相關

  • 專案
  • 專案
  • 專案
  • 專案