proroklab/VectorizedMultiAgentSimulator
VMAS is a vectorized differentiable simulator designed for efficient Multi-Agent Reinforcement Learning benchmarking. It is comprised of a vectorized 2D physics engine written in PyTorch and a set of challenging multi-robot scenarios. Additional scenarios can be implemented through a simple and modular interface.
解决的问题
VMAS 解决了多智能体强化学习(MARL)基准测试中的计算瓶颈问题。传统的物理引擎在模拟数千个并行环境且包含多个相互作用的智能体时,往往过于沉重,难以高效扩展,从而减慢了训练轨迹的收集速度。
工作原理
VMAS 是一个完全基于 PyTorch 构建的向量化、完全可微的 2D 物理引擎。它使用张量操作来模拟智能体和地标,能够在加速硬件(如 GPU)上运行数万个并行环境。默认采用全向运动模型,专注于高层多机器人问题求解而非底层控制,但同时也支持自定义动力学,如差速驱动、运动学自行车模型和无人机模型。
适用人群
专为 MARL 和机器人领域的研究人员与开发者设计,适用于需要快速、可扩展环境来训练和基准测试集体机器人学习算法的用户。
主要亮点
- 高可扩展性:向量化支持在 GPU 上对环境进行大规模并行处理。
- 可微分:支持从输出到输入的梯度传播,实现基于梯度的优化。
- 广泛兼容性:提供 Gymnasium、RLlib、TorchRL 和 OpenAI Gym 的开箱即用包装器。
- 丰富的物理特性:支持弹性碰撞、可自定义重力、关节以及多种实体形状(球体、盒子、线段)。
- 集成传感器:内置射线投射功能,支持基于距离的传感器(如 LIDAR)。
- 模块化场景创建:提供框架,可轻松定义自定义多智能体任务和场景。
相关
- 项目
- 项目
- 项目
- 项目
- 项目