run-llama/llama-agents
Llama Agents + Workflows are an event-driven, async-first, step-based way to control the execution flow of AI applications like agents.
What it solves
它解決了構建可投入生產的以文件為中心的代理的複雜性。文件工作流通常涉及 OCR、LLM、結構化抽取和人工審核的雜亂組合,這些流程通常既慢又笨重。LlamaAgents 提供了一種可靠協調這些步驟的方法,無需自行構建微服務架構或使用受限的領域特定語言(DSL)。
How it works
LlamaAgents 基於一個事件驅動的協調庫,步驟被定義為異步 Python 函式,這些函式會發出和消費事件。這讓開發者能夠使用純 Python 創建複雜的邏輯——包括分支、迴圈和並行——框架設計上非常靈活:它可以作為簡單腳本開始,亦可包裝成 REST API 伺服器投入生產,或透過 CLI 工具部署為全棧代理應用。
Who it’s for
它針對的是需要從筆記本原型開發一路部署到可擴展、耐用的生產環境或受限客戶環境的文件密集型 AI 流程的 Python 開發者。
Highlights
- Event-Driven Orchestration:使用 async Python 函式處理複雜工作流邏輯,無需 DSL。
- Flexible Deployment:可作為輕量庫使用,整合至 FastAPI/Starlette 應用,或透過
llamactl部署至各種基礎設施。 - Durable State:支援透過可插拔的後端(檔案或資料庫)持久化與恢復執行。
- LlamaParse Integration:無縫接入 LlamaParse,處理 OCR 與結構化抽取等重任務。