proroklab/VectorizedMultiAgentSimulator
VMAS is a vectorized differentiable simulator designed for efficient Multi-Agent Reinforcement Learning benchmarking. It is comprised of a vectorized 2D physics engine written in PyTorch and a set of challenging multi-robot scenarios. Additional scenarios can be implemented through a simple and modular interface.
何を解決するか
VMASは、マルチエージェント強化学習(MARL)のベンチマークにおける計算上のボトルネックに対処します。従来の物理エンジンは、複数の相互作用するエージェントを含む数千もの並列環境をシミュレートする際に、スケーラビリティが低く、学習用ロールアウトの収集を遅くしてしまうことがよくあります。
どう動くか
VMASは、PyTorchで完全に構築された、ベクトル化され、完全に微分可能な2D物理エンジンです。エージェントとランドマークのシミュレーションにテンソル演算を使用しており、GPUなどの加速ハードウェア上で数万もの並列環境を実行できます。デフォルトではホロノミック運動モデルを使用し、低レベルの制御ではなく、高レベルのマルチロボット問題解決に焦点を当てていますが、差動駆動、運動学的自転車モデル、ドローンモデルなど、カスタムダイナミクスもサポートしています。
誰向けか
MARLおよびロボティクスの研究者や開発者向けに設計されており、集団ロボット学習アルゴリズムの訓練およびベンチマークに高速でスケーラブルな環境が必要な人向けです。
特徴
- 高いスケーラビリティ:ベクトル化により、GPU上で環境全体にわたって大規模な並列処理が可能。
- 微分可能:出力から入力への勾配伝播をサポートし、勾配ベースの最適化が可能。
- 広範な互換性:Gymnasium、RLlib、TorchRL、OpenAI Gym 用の即時利用可能なラッパーを提供。
- 豊富な物理機能:弾性衝突、カスタム重力、ジョイント、さまざまなエンティティ形状(球体、直方体、線)をサポート。
- 統合されたセンサー:距離ベースのセンサー(例:LIDAR)用のレイトレーシングを内蔵。
- モジュール式シナリオ作成:カスタムマルチエージェントタスクやシナリオを簡単に定義するためのフレームワークを提供。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト