agentenv/agentflow

해결하는 문제

AgentFlow는 Codex, Claude, Kimi, Pi와 같은 여러 AI 에이전트를 복잡한 워크플로우로 오케스트레이션할 수 있는 방법을 제공합니다. 에이전트 간 의존성 관리, 병렬 실행(fanout), 반복 피드백 루프 생성, 로컬 Docker 컨테이너에서 원격 클라우드 인스턴스에 이르기까지 다양한 환경에서의 실행 등 어려움을 해결합니다.

작동 방식

사용자는 Python API를 사용하여 의존성 그래프를 정의하며, 노드는 에이전트 작업을, 엣지는 실행 순서를 정의합니다. 시스템은 다음 기능을 지원합니다:

• 병렬성: fanout 함수는 리스트나 사전 데이터를 처리하기 위해 노드의 여러 복사본을 생성할 수 있으며, 이후 merge를 사용해 병합할 수 있습니다.
• 반복 루프: on_failure 메커니즘을 통해 특정 성공 조건(예: 출력에 특정 문자열 포함)을 만족할 때까지 노드가 이전 단계로 돌아가 반복 실행할 수 있습니다.
• 유연한 실행: 에이전트는 Docker 컨테이너, KVM 가상 머신(Cloud Hypervisor를 통해), SSH, EC2, ECS Fargate 등 다양한 "타겟"으로 배포할 수 있습니다.
• 모델 라우팅: pi 에이전트를 통해 OpenAI, Anthropic, Groq 등 외부 제공자 또는 로컬 엔드포인트(Ollama, LMStudio)로 요청을 라우팅할 수 있습니다.
• 인프라 관리: SkyPilot와 통합되어 클라우드 GPU에서 vLLM 또는 SGLang 추론 엔드포인트를 자동으로 시작합니다.

대상 사용자

자동 코드 리뷰, 취약점 탐지, 대규모 데이터 처리와 같은 복잡한 작업을 위한 다중 에이전트 파이프라인을 구축해야 하는 개발자 및 연구자에게 적합합니다. 격리성과 확장성이 요구되는 환경에 최적입니다.

주요 특징

• 다양한 실행 타겟: Docker, Cloud Hypervisor(KVM), SSH, EC2, ECS를 지원합니다.
• 고급 그래프 제어: 병렬 팬아웃, 배치 병합, 반복 루프의 내장 지원.
• 튜닝된 에이전트 진화: 성공적인 실행의 트레이스를 활용해 재사용 가능한 튜닝된 에이전트를 진화 및 생성할 수 있습니다.
• 클라우드 GPU 통합: SkyPilot와의 직접 통합을 통해 추론 서버를 자동으로 배포할 수 있습니다.
• 공유 상태: 그래프 내 모든 에이전트가 공유할 수 있는 "스크래치보드"를 포함합니다.