a-agmon/rs-graph-llm

해결하는 문제

graph-flow는 AI 에이전트를 위한 상태 유지형 그래프 워크플로 프레임워크입니다. 개발자는 AI 에이전트가 작업을 수행하고, 결정을 내리며, 인간의 입력을 기다리는 동시에 프로세스 재시작 후에도 상태를 유지할 수 있는 복잡하고 상호작용 가능한, 재개 가능한 워크플로를 구축할 수 있습니다.

작동 방식

이 프레임워크는 노드를 Task 트레이트로 정의하는 그래프 기반 실행 엔진을 사용합니다. 각 태스크는 공유되고 스레드 세이프한 Context를 읽고 쓰며, 세션 내에서 직렬화되고 영구 저장됩니다. 실행 흐름은 태스크에서 반환되는 NextAction로 제어되며, 그래프가 다음 노드로 진행할지, 특정 태스크로 점프할지, 사용자 입력을 기다릴지, 또는 워크플로를 종료할지 결정합니다.

Rig LLM 라이브러리의 채팅 기록과 에이전트 런타임과 네이티브로 통합되며, 세션 지속성을 위해 메모리 내 및 PostgreSQL 저장 백엔드를 모두 지원합니다.

대상 사용자

복잡한 라우팅, 상태 관리, 그리고 인간이 개입하는 상호작용이 필요한 AI 에이전트 및 에이전트 워크플로를 Rust로 개발하는 개발자들.

주요 특징

• 상태 유지 및 재개 가능: 영구 저장을 사용해 재시작 후에도 세션을 일시정지하고 재개할 수 있습니다.
• 유연한 실행 모델: 단계별(인터랙티브) 및 즉시 실행(연속) 실행 모델을 모두 지원합니다.
• 조건부 라우팅: Context 내 데이터를 기반으로 런타임에 워크플로를 분기할 수 있습니다.
• 인간이 개입하는 워크플로: 외부 입력이 제공될 때까지 워크플로를 일시정지하는 내장된 WaitForInput 액션이 있습니다.
• 병렬 실행: FanOutTask를 사용해 여러 하위 태스크를 병렬로 실행하고 결과를 집계할 수 있습니다.
• 형 안전성: Rust의 형 시스템을 활용해 성능과 안정성을 보장합니다.