zju3dv/MotionStreamer

[ICCV 2025] MotionStreamer: Streaming Motion Generation via Diffusion-based Autoregressive Model in Causal Latent Space

何を解決するか

MotionStreamerは、テキスト記述から人間の動きのシーケンスをストリーミング形式で生成する課題に対処します。連続的な動きの生成を可能にし、テキストで記述された異なる動作間の流れをより滑らかでシームレスにします。

仕組み

このシステムは、因果的潜在空間内で動作する拡散ベースの自己回帰モデルを使用しています。パイプラインは以下のステージで構成されています:

  1. 因果的 TAE:因果的時系列自己符号化器(TAE)は、動きを因果的潜在空間に符号化し、潜在表現が過去および現在のフレームのみに基づくことを保証します。
  2. 動き生成:モデルはLlamaブロック、"Two-Forward"戦略、QK-Normを使用して、テキスト埋め込み(sentence-T5-XXLによって提供)から動き潜在変数を生成します。
  3. ストリーミング対応:BABEL-streamなどの処理済みストリーミングデータセットで訓練されることで、モデルは部分シーケンス間で一貫性のある連続的な動きシーケンスを生成する能力を学びます。

対象ユーザー

コンピュータビジョン、3D人間の動き合成、ゲームやバーチャルリアリティ向けキャラクターアニメーションに取り組む研究者や開発者。

特徴

  • ストリーミング生成:テキスト入力に基づいて連続的な動きシーケンスを生成可能。
  • 因果的潜在空間:因果的TAEを使用して時系列の一貫性を確保し、生成中に未来の情報が漏洩するのを防ぎます。
  • IK不要:272次元の動き表現を使用することで、復元時に逆運動学(IK)の必要がありません。
  • 統合評価:FIDや多様性などの指標で品質を測定するTMRベースの動き評価器を内蔵しています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト