agentenv/agentflow

해결하는 문제

AgentFlow는 의존성 그래프를 사용하여 복잡한 멀티 에이전트 워크플로를 구축할 수 있는 오케스트레이션 프레임워크입니다. 여러 LLM 에이전트(Codex, Claude 등)를 구조화된 방식으로 관리하는 문제를 해결하며, 병렬 실행, 반복 루프 및 다양한 격리된 실행 환경에 대한 배포를 가능하게 합니다.

작동 방식

사용자는 Graph를 정의하며, 노드는 에이전트 작업(예: codex 또는 claude 함수 사용)을 나타냅니다. 이러한 노드는 의존성 에지(>> 연산자 사용)를 통해 연결되어 실행 순서를 정의합니다. 이 프레임워크는 다음을 지원합니다:

• 병렬 팬아웃: fanout()을 사용하여 단일 노드의 출력을 다른 노드의 여러 병렬 복사본으로 분산할 수 있습니다. 이는 카운트, 항목 목록 또는 데카르트 곱에 기반할 수 있습니다.
• 반복 사이클: 노드는 on_failure 트리거와 성공 기준을 설정하여 특정 조건이 충족되거나 최대 반복 횟수에 도달할 때까지 루프를 돌릴 수 있습니다.
• 실행 대상: 에이전트는 로컬 Docker 컨테이너, Cloud Hypervisor를 통한 KVM VM 또는 원격 머신(EC2, ECS Fargate, SSH)과 같은 격리된 환경에서 실행할 수 있습니다.
• 모델 라우팅: pi 에이전트를 통해 프레임워크는 요청을 다양한 외부 프로바이더(OpenAI, Anthropic, Groq 등)나 로컬 엔드포인트(Ollama, LMStudio)로 라우팅할 수 있습니다.
• 추론 설정: SkyPilot과 통합되어 클라우드 GPU에서 OpenAI 호환 엔드포인트를 시작합니다.

대상 사용자

자동 코드 리뷰, 의존성 감사, 취약점 발견과 같은 복잡한 작업을 수행하기 위해 여러 AI 에이전트를 조정해야 하는 개발자와 보안 연구자를 위해 설계되었습니다.

하이라이트

• 유연한 오케스트레이션: 병렬 팬아웃과 반복 루프를 가진 의존성 그래프를 지원합니다.
• 다양한 실행 대상: Docker, Cloud Hypervisor VM 및 클라우드 네이티브 원격 대상을 통해 높은 격리성을 제공합니다.
• 클라우드 GPU 통합: SkyPilot을 통해 추론 서비스 시작을 단순화합니다.
• 튜닝된 에이전트 진화: 성공적인 Codex 실행 트레이스에 기반하여 재사용 가능한 튜닝된 에이전트를 생성할 수 있습니다.
• 공유 메모리: 파이프라인 내 모든 에이전트 간 공유 메모리를 위한 "스크래치보드"를 포함합니다.
• Web UI: 실행을 관리하기 위한 로컬 웹 인터페이스 및 API를 포함합니다.