CraftJarvis/MineStudio

해결하는 문제

MineStudio는 Minecraft AI 에이전트 개발을 간소화하기 위해 설계된 포괄적인 툴킷입니다. 시뮬레이션, 데이터 관리, 학습, 평가를 포함한 에이전트의 전체 수명 주기에 대해 통합된 파이프라인을 제공하여 가상 환경에서 복잡한 체화된(embodied) AI 에이전트를 구축할 때 발생하는 마찰을 줄여줍니다.

작동 방식

MineStudio는 여러 핵심 구성 요소를 통합하여 간소화된 워크플로우를 생성합니다:

• Simulator: MineRL 기반의 사용자 정의 가능한 Minecraft 환경.
• Data Management: 에이전트 행동의 임의 세그먼트를 효율적으로 저장하고 검색할 수 있는 궤적 데이터 구조.
• Models: 베이스라인 모델 갤러리 및 새로운 정책 모델 생성을 위한 템플릿.
• Training Pipelines: 오프라인 사전 학습(기존 데이터 사용)과 온라인 강화 학습(RL)을 모두 지원하며, 시뮬레이터 충돌 복구 기능을 갖추고 있습니다.
• Inference: 병렬 실행을 위해 Ray로 구동되는 분산 추론 프레임워크.
• Benchmark: 다양한 Minecraft 작업 전반에서 에이전트를 자동화하고 배치 테스트하기 위한 도구.

대상 사용자

이 툴킷은 체화된 AI, 강화 학습, 복잡한 3D 환경과 상호 작용하는 AI 에이전트를 연구하고 개발하는 연구원 및 개발자를 위한 것입니다.

주요 특징

• 엔드 투 엔드 파이프라인: 데이터 수집부터 분산 추론 및 벤치마킹까지 모든 과정을 포괄합니다.
• RL 지원: 메모리 기반 정책과 시뮬레이터 충돌 복구 기능을 갖춘 효율적인 RL 구현.
• 사전 학습된 모델: OpenAI의 VPT, STEVE-1 및 CraftJarvis 자체 모델(예: ROCKET, GROOT)의 다양한 체크포인트에 액세스할 수 있습니다.
• 유연한 데이터 로딩: 사용자가 자신의 데이터 처리 방법을 사용자 정의할 수 있는 분리된 궤적 모델.