maze-agent/Maze
A distributed framework for LLM agents
What it solves
Maze는 LLM 에이전트 워크플로를 관리하고 확장하도록 설계된 분산 프레임워크입니다. 작업을 워커 클러스터에 분배하는 구조화된 방식을 제공함으로써 자원 경쟁, 작업 병렬성 및 대규모 에이전트 시스템의 신뢰성 문제를 해결합니다.
How it works
Maze는 Ray 기반의 헤드‑워커 아키텍처를 사용합니다. 개발자는 워크플로를 일련의 작업(정적 또는 동적)이나 ReAct 스타일 에이전트 루프 형태로 정의할 수 있습니다. 프레임워크는 FCFS, HACS와 같은 알고리즘으로 작업 스케줄링을 관리하고, CPU, GPU, I/O와 같은 자원 할당을 조정해 병목 현상을 방지합니다. 또한 공유 파일 시스템 없이도 분산 노드 간 파일을 관리할 수 있는 콘텐츠 주소 기반 아티팩트 스토어를 포함합니다.
Who it’s for
분산 실행, 세밀한 자원 관리 및 높은 신뢰성을 필요로 하는 복잡한 멀티‑에이전트 시스템이나 고성능 에이전트 워크플로를 구축하는 개발자를 위한 것입니다.
Highlights
- Distributed Execution: 단일 머신 또는 클러스터 배포를 지원하며 워커 자동 복구와 내결함성을 제공합니다.
- Task-Level Management: 작업 병렬성, 재시도 및 타임아웃을 세밀하게 제어할 수 있습니다.
- Heterogeneous Scheduling: GPU, CPU, I/O 작업을 위한 전용 큐를 구현해 처리량을 최적화합니다.
- ReAct Workflow Support: 도구 호출, MCP 서버, 에이전트 트레이스를 지원하는 ReAct 에이전트 템플릿을 내장합니다.
- Observability: Maze Playground라는 통합 콘솔을 통해 드래그‑앤‑드롭 방식 워크플로 구축, 실행 이력 및 클러스터 진단이 가능합니다.
- Backend Compatibility: LangGraph와 같은 다른 프레임워크의 런타임 백엔드로 활용할 수 있습니다.