maze-agent/Maze

A distributed framework for LLM agents

What it solves

Maze は、LLM エージェントのワークフローを管理・スケールするために設計された分散フレームワークです。リソース競合、タスクの並列化、大規模エージェントシステムにおける信頼性の課題を、タスクをクラスタ内のワーカーに分配する構造化された方法で解決します。

How it works

Maze は Ray をベースにしたヘッド‑ワーカーアーキテクチャを採用しています。開発者はワークフローを一連のタスク（静的または動的）や ReAct スタイルのエージェントループとして定義できます。フレームワークは FCFS や HACS といったアルゴリズムでタスクスケジューリングを行い、CPU、GPU、I/O のリソース割り当てを管理してボトルネックを防止します。また、分散ノード間でファイルを共有ファイルシステムなしで管理できるコンテンツアドレスド・アーティファクトストアを備えています。

Who it’s for

分散実行、細粒度リソース管理、高信頼性を必要とする複雑なマルチエージェントシステムや高性能エージェントワークフローを構築する開発者向けです。

Highlights

  • Distributed Execution: スタンドアロンまたはクラスタ展開をサポートし、ワーカーの自動復旧とフォールトトレラントを実現。
  • Task-Level Management: タスクの並列度、リトライ、タイムアウトを細かく制御可能。
  • Heterogeneous Scheduling: GPU、CPU、I/O タスク用の専用キューを実装し、スループットを最適化。
  • ReAct Workflow Support: ツール呼び出し、MCP サーバー、エージェントトレースをサポートする ReAct エージェント用テンプレートを内蔵。
  • Observability: Maze Playground という統合コンソールで、ドラッグ＆ドロップによるワークフロー構築、実行履歴、クラスタ診断が可能。
  • Backend Compatibility: LangGraph など他フレームワークのランタイムバックエンドとして利用可能。