RecursiveMAS/RecursiveMAS

해결하는 문제

RecursiveMAS는 멀티 에이전트 시스템(MAS)을 독립된 LLM 모듈의 집합으로 처리할 때 발생하는 비효율성을 해결합니다. 이 프레임워크는 기존의 개별적인 상호작용보다 더 효과적으로 에이전트들이 정보를 교환하고 정교화할 수 있도록 하여, 순차적(Sequential), 혼합(Mixture), 증류(Distillation), 숙고(Deliberation) 등 다양한 협업 스타일 전반에서 조정 능력과 성능을 향상시키는 것을 목표로 합니다.

작동 방식

이 프레임워크는 독립된 모듈 대신 멀티 에이전트 시스템 전체를 하나의 통합된 재귀 계산으로 처리합니다. 경량화된 "RecursiveLink" 모듈을 사용하여 이기종 에이전트들을 연결하고, 여러 재귀 라운드에 걸쳐 잠재 상태(latent states)를 교환하고 발전시킬 수 있게 합니다.

시스템은 Inner-Outer Loop(내부-외부 루프) 패러다임을 사용하여 학습됩니다:

1. Inner Loop(내부 루프): 각 개별 에이전트에 대해 모델 수준의 웜 스타트를 제공합니다.
2. Outer Loop(외부 루프): 시스템 수준에서 "RecursiveLink" 모듈을 학습시켜 에이전트 간의 조정을 최적화합니다.

대상 사용자

이 프로젝트는 멀티 에이전트 조정 및 LLM 기반 시스템 최적화를 연구하는 AI 연구원과 개발자를 위해 설계되었습니다. 또한 수학, 과학, 의학, 코딩 분야의 작업을 위해 복잡한 에이전트 협업 패턴(증류나 숙고 등)을 구현하려는 분들에게 적합합니다.

주요 특징

• 잠재 공간 재귀 (Latent-Space Recursion): 단순한 텍스트 교환이 아닌, 공유된 잠재 상태를 정교화함으로써 협업을 확장합니다.
• 다양한 협업 패턴: 순차적, 혼합, 증류, 숙고 스타일을 지원합니다.
• Inner-Outer Loop 학습: 개별 에이전트와 그 연결을 최적화하기 위한 2단계 공동 최적화 전략입니다.
• 광범위한 벤치마크 성공: Math500, GPQA, LiveCodeBench를 포함한 9개의 벤치마크에서 성능 향상을 입증했습니다.