MinghaoFu/lewam

LeWAM: End-to-End World and Action Modeling with JEPAs

해결하는 문제

LeWAM은 엔드투엔드 세계 및 행동 모델링을 위한 프레임워크를 제공하며, 자율 에이전트가 환경을 이해하고 특정 목표에 도달하거나 작업을 완료하기 위한 행동을 계획하도록 특별히 설계되었습니다.

작동 방식

세계를 모델링하기 위해 JEPA(Joint-Embedding Predictive Architectures)를 활용합니다. 시스템은 두 가지 주요 모드를 지원합니다: 목표 조건부 시각적 계획(모델이 목표 상태에 도달하기 위해 일련의 행동을 계획하는 데 그래디언트 기반 최적화를 사용) 및 특정 작업을 수행하기 위해 행동 복제를 사용하는 작업 완료입니다.

대상 사용자

이 프로젝트는 로봇 공학 및 자율 에이전트를 연구하는 연구자와 개발자를 대상으로 하며, 시뮬레이션 데이터에서 세계 모델을 훈련하고 평가하기 위한 강력한 프레임워크가 필요합니다.

주요 기능

  • 그래디언트 기반 시각적 계획 및 직접적인 행동 복제를 모두 지원합니다.
  • Push-T, PointMaze, ToolHang과 같은 다양한 작업에 대한 사전 훈련된 체크포인트와 시뮬레이션 데이터 세트가 포함되어 있습니다.
  • 모듈식 구성 파일을 기반으로 구축되어 훈련 및 평가 사용자 지정이 용이합니다.
  • MuJoCo와 같은 표준 시뮬레이션 환경과 호환됩니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트