MinghaoFu/lewam

LeWAM: End-to-End World and Action Modeling with JEPAs

解決する問題

LeWAMは、エンドツーエンドの世界と行動のモデリングのためのフレームワークを提供し、自律エージェントが環境を理解し、特定の目標に到達するかタスクを完了するための行動を計画するのを支援するように特別に設計されています。

仕組み

これは、世界をモデル化するためにJoint-Embedding Predictive Architectures(JEPA)を利用します。システムは2つの主要なモードをサポートしています:目標条件付き視覚計画(モデルが勾配ベースの最適化を使用して目標状態に到達するための一連の行動を計画する)と、特定のタスクを実行するために行動クローニングを使用するタスク完了です。

対象者

このプロジェクトは、ロボティクスと自律エージェントに取り組む研究者や開発者を対象としており、シミュレーションデータで世界モデルをトレーニングおよび評価するための堅牢なフレームワークを必要としています。

ハイライト

  • 勾配ベースの視覚計画と直接的な行動クローニングの両方をサポート。
  • Push-T、PointMaze、ToolHangなどのさまざまなタスク用の事前トレーニング済みチェックポイントとシミュレーションデータセットが含まれています。
  • モジュール式の設定ファイルに基づいて構築されており、トレーニングと評価のカスタマイズが容易です。
  • MuJoCoなどの標準的なシミュレーション環境と互換性があります。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト