mira-wm/mira
Code for MIRA: Multiplayer Interactive World Models with Representation Autoencoders
解决的问题
MIRA 解决了在复杂多人环境中创建实时、可交互世界模型的挑战。它能够基于四名玩家的同步操作,模拟完整的 2v2 Rocket League 比赛,并生成视频帧。
工作原理
该系统使用一个 50 亿参数的潜在扩散模型,按顺序生成视频帧。它利用一个表示自动编码器(编解码器)来处理视觉数据。训练过程包括编解码器、单人世界模型,最后是基于单人版本热启动的 4 人世界模型。训练使用的是「Rocket Science」数据集,其中包含 2v2 比赛的同步多视角视频、键盘操作和游戏状态。
适用人群
从事世界模型、视频生成中的潜在扩散技术,以及复杂交互式模拟 AI 的研究人员和开发者。
主要亮点
- 实时性能:可在单个 GPU 上以 20 FPS 运行完整的 2v2 比赛。
- 多人交互:基于四名玩家的联合操作生成帧。
- 大规模模型:采用 50 亿参数的潜在扩散架构。
- 全面的数据集:包含「Rocket Science」数据集,涵盖同步多视角视频、操作和物理状态。
相关
- 项目
- 项目
- 项目
- Dispatch
- 项目