SakanaAI/mass

해결하는 문제

MASS는 자기 개선 루프를 만들어 AI 모델 성능 향상의 과제를 해결합니다. 정적 훈련 데이터에만 의존하는 대신, 모델이 자체 워크플로우를 반복적으로 개선하고 생성된 성공 궤적에서 학습할 수 있게 합니다.

작동 방식

시스템은 반복 주기로 작동합니다. 먼저, RHI라는 프로세스를 사용하여 모델의 핵심 가중치를 고정한 상태에서 멀티 에이전트 워크플로우를 검색하고 최적화합니다. 그런 다음 이러한 워크플로우에서 성공 궤적을 수집하고 모델에 대한 사후 훈련(미세 조정)에 사용합니다. 업데이트된 모델은 다음 주기의 시작점이 되어 재귀적 개선 프로세스를 형성합니다.

대상 사용자

이 프로젝트는 재귀적 자기 개선, 멀티 에이전트 시스템, 자동화된 사후 훈련 파이프라인에 관심이 있는 연구자와 개발자를 대상으로 합니다. 합성 작업과 벤치마크 평가를 사용한 반복적 모델 업데이트를 실험하려는 사람들을 위한 연구용 구현을 제공합니다.

주요 기능

• 워크플로우 검색, 궤적 수집, 모델 순위 지정을 위한 자동화 파이프라인.
• LoRA, 어시스턴트 전용 손실 마스킹, 모델 내보내기를 포함한 통합 사후 훈련 도구.
• 테스트를 위한 금융, 제약, 로보틱스 분야의 12개 합성 작업 포함.
• 개선 주기의 특정 단계를 검사, 일시 중지, 재개할 수 있는 모듈식 명령 구조.
• ScienceAgentBench 및 MLR-Bench와 같은 공개 벤치마크에 대한 모델 진행 상황 평가 지원.