Linzwcs/EvoPolicyGym

해결하는 문제

EvoPolicyGym은 표준 코드 벤치마크가 최종 답변만 평가한다는 한계를 해결합니다. 반복적인 실험, 피드백을 통한 학습, 그리고 인터랙티브 환경에서 복잡한 작업을 해결하기 위한 실행 가능한 정책(전략)을 진화시키는 능력을 평가하는 프레임워크를 제공합니다.

작동 방식

시스템은 에이전트, 워크스페이스, 서버 간의 루프로 작동합니다. 에이전트는 프로그램(정책)을 편집하고, 여러 에피소드에 걸쳐 실행을 제출하며 공개된 피드백을 받습니다. 이 과정은 고정된 "에피소드 예산"으로 제한되어 있어, 에이전트가 탐색과 확인 사이에 시도 횟수를 전략적으로 배분하도록 강제합니다.

에이전트가 작업을 완료하면, 호스트는 사적인 최종 선택을 수행하고 보류된 에피소드에서 정책을 평가하여 진정한 일반화 능력을 측정합니다.

대상 사용자

• 자율 정책 진화와 피드백 기반 강화 학습에 집중하는 AI 연구자.
• 단일 함수를 작성하는 것이 아니라 시간이 지남에 따라 전략을 개선하는 능력을 테스트하고 싶은 코드 에이전트 개발자.
• 제공된 API를 사용하여 새로운 인터랙티브 환경을 표준화된 평가 프로토콜에 통합하고자 하는 벤치마크 작성자.

주요 특징

• 예산 제한된 실험: 최적의 정책을 찾기 위해 환경과의 상호작용 횟수를 제한된 상태에서 관리하도록 강제.
• 통합 인터페이스: NetHack, Balatro, Crafter, Gymnasium 등 다양한 환경을 하나의 벤치마크 계약 아래 통합.
• 일반화 테스트: 보류된 검증 및 평가 세트를 사용하여 학습 에피소드에 과적합된 정책이 아닌지 확인.
• 에이전트 통합: Claude Code, Codex, Kimi Code 등 CLI 기반 에이전트에 대한 공식 지원 포함.
• 풍부한 환경 카탈로그: 로보틱스(robosuite, MetaWorld), 고전적 제어(CartPole), 복잡한 게임(ARC Prize, NetHack) 등 다양한 도메인을 지원.