maze-agent/Maze
A distributed framework for LLM agents
What it solves
Maze 是一个分布式框架，旨在管理和扩展 LLM 代理工作流。它通过提供结构化的方式将任务分配到工作节点集群，解决资源争用、任务并行化以及大规模代理系统的可靠性问题。
How it works
Maze 使用基于 Ray 的主从架构。开发者可以将工作流定义为一系列任务（静态或动态）或 ReAct 风格的代理循环。框架使用 FCFS、HACS 等算法进行任务调度，并负责 CPU、GPU、I/O 等资源的分配，以防止瓶颈。它还提供内容寻址的 Artifact Store，用于在分布节点之间管理文件，无需共享文件系统。
Who it’s for
该框架面向构建复杂多代理系统或高性能代理工作流的开发者，这类系统需要分布式执行、细粒度资源管理和高可靠性。
Highlights
- Distributed Execution: 支持单机或集群部署，具自动工作者恢复和容错机制。
- Task-Level Management: 实现对任务并行度、重试和超时的细致控制。
- Heterogeneous Scheduling: 为 GPU、CPU、I/O 任务实现专用调度队列，以优化吞吐量。
- ReAct Workflow Support: 内置 ReAct 代理模板，支持工具调用、MCP 服务器和代理追踪。
- Observability: 提供统一的 Maze Playground 控制台，可拖拽式构建工作流、查看运行历史和集群诊断。
- Backend Compatibility: 可作为其他框架（如 LangGraph）的运行时后端。