a-agmon/rs-graph-llm

High-performance framework for building interactive workflow systems in Rust. Designed for complex workflows and multi-agent systems

解決的問題

graph-flow 是專為 AI 代理設計的狀態保持型圖工作流框架。它允許開發者建構複雜、互動性高且可恢復的工作流程,其中 AI 代理可執行任務、做出決策,並暫停等待人工輸入,同時在程序重啟後仍能維持狀態。

工作原理

此框架使用圖形基礎的執行引擎,節點定義為 Task 特性。每個任務讀取和寫入共享且執行緒安全的 Context,該上下文會被序列化並持久化至會話中。執行流程由任務回傳的 NextAction 控制,決定圖是否應進入下一個節點、跳轉至特定任務、等待使用者輸入,或結束工作流程。

它與 Rig LLM 庫原生整合,用於聊天歷史與代理執行時,並支援記憶體與 PostgreSQL 兩種儲存後端以實現會話持久化。

適用對象

需要複雜路由、狀態管理以及人機協作互動的 AI 代理與代理工作流程的 Rust 開發者。

特色亮點

  • 狀態保持與可恢復:使用持久化儲存,可在重啟後暫停與恢復會話。
  • 靈活執行:支援逐步(互動式)與一次執行(連續)執行模式。
  • 條件路由:可根據 Context 中的資料在執行時動態分支工作流程。
  • 人機協作:內建 WaitForInput 操作,可暫停工作流程直至外部輸入提供。
  • 並行執行FanOutTask 支援並行執行多個子任務並聚合結果。
  • 類型安全:利用 Rust 的類型系統實現高效能與安全性。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案