run-llama/llama-agents

What it solves

문서 중심 에이전트를 프로덕션 수준으로 구축하는 복잡성을 해결합니다. 문서 워크플로는 OCR, LLM, 구조화 추출, 인간 검토 등 복잡하고 무거운 조합을 포함하는 경우가 많아 일반적으로 느리고 무겁습니다. LlamaAgents는 맞춤형 마이크로서비스 아키텍처를 직접 구축하거나 제한적인 도메인 전용 언어(DSL)를 사용할 필요 없이 이러한 단계들을 신뢰성 있게 오케스트레이션하는 방법을 제공합니다.

How it works

LlamaAgents는 단계가 비동기 Python 함수로 정의되고 이벤트를 발행·소비하는 이벤트 기반 오케스트레이션 라이브러리를 기반으로 합니다. 이를 통해 개발자는 순수 Python만으로 분기, 루프, 병렬화 등을 포함한 복잡한 로직을 만들 수 있습니다. 프레임워크는 유연하게 설계되어 간단한 스크립트로 시작하고, 프로덕션용 REST API 서버로 래핑하거나, CLI 도구를 통해 풀스택 에이전트 앱으로 배포할 수 있습니다.

Who it’s for

노트북에서 프로토타이핑부터 스케일 가능하고 내구성 있는 에이전트를 프로덕션 또는 제한된 고객 환경에 배포해야 하는 문서 중심 AI 파이프라인을 구축하는 Python 개발자를 위해 설계되었습니다.

Highlights

• Event-Driven Orchestration: DSL 없이 async Python 함수를 사용해 복잡한 워크플로 로직을 처리합니다.
• Flexible Deployment: 경량 라이브러리로 사용하거나 FastAPI/Starlette 앱에 통합하거나 llamactl을 통해 다양한 인프라에 배포할 수 있습니다.
• Durable State: 파일이나 데이터베이스와 같은 플러그인 가능한 백엔드를 통해 실행을 지속하고 재개할 수 있습니다.
• LlamaParse Integration: OCR 및 구조화 추출과 같은 무거운 작업을 위해 LlamaParse와 원활하게 연동됩니다.