a-agmon/rs-graph-llm

High-performance framework for building interactive workflow systems in Rust. Designed for complex workflows and multi-agent systems

解决的问题

graph-flow 是专为 AI 代理设计的状态保持型图工作流框架。它允许开发者构建复杂的、交互式的、可恢复的工作流,其中 AI 代理可以执行任务、做出决策,并暂停等待人工输入,同时在进程重启后仍能保持状态。

工作原理

该框架使用基于图的执行引擎,节点被定义为 Task 特性。每个任务读写共享的、线程安全的 Context,该上下文会被序列化并持久化到会话中。执行流程由任务返回的 NextAction 控制,决定图是否应进入下一个节点、跳转到特定任务、等待用户输入,或结束工作流。

它与 Rig LLM 库原生集成,用于聊天历史和代理运行时,并支持内存和 PostgreSQL 两种存储后端以实现会话持久化。

适用人群

需要复杂路由、状态管理以及人机交互的 AI 代理和代理工作流的 Rust 开发者。

特性亮点

  • 状态保持与可恢复:使用持久化存储,可在重启后暂停和恢复会话。
  • 灵活执行:支持逐步(交互式)和一次性(连续)执行模式。
  • 条件路由:可根据 Context 中的数据在运行时动态分支工作流。
  • 人机协同:内置 WaitForInput 操作,可暂停工作流直至外部输入提供。
  • 并行执行FanOutTask 支持并发运行多个子任务并聚合结果。
  • 类型安全:利用 Rust 的类型系统实现高性能与安全性。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目