run-llama/llama-agents

Llama Agents + Workflows are an event-driven, async-first, step-based way to control the execution flow of AI applications like agents.

What it solves

它解決了構建可投入生產的以文件為中心的代理的複雜性。文件工作流通常涉及 OCR、LLM、結構化抽取和人工審核的雜亂組合,這些流程通常既慢又笨重。LlamaAgents 提供了一種可靠協調這些步驟的方法,無需自行構建微服務架構或使用受限的領域特定語言(DSL)。

How it works

LlamaAgents 基於一個事件驅動的協調庫,步驟被定義為異步 Python 函式,這些函式會發出和消費事件。這讓開發者能夠使用純 Python 創建複雜的邏輯——包括分支、迴圈和並行——框架設計上非常靈活:它可以作為簡單腳本開始,亦可包裝成 REST API 伺服器投入生產,或透過 CLI 工具部署為全棧代理應用。

Who it’s for

它針對的是需要從筆記本原型開發一路部署到可擴展、耐用的生產環境或受限客戶環境的文件密集型 AI 流程的 Python 開發者。

Highlights

  • Event-Driven Orchestration:使用 async Python 函式處理複雜工作流邏輯,無需 DSL。
  • Flexible Deployment:可作為輕量庫使用,整合至 FastAPI/Starlette 應用,或透過 llamactl 部署至各種基礎設施。
  • Durable State:支援透過可插拔的後端(檔案或資料庫)持久化與恢復執行。
  • LlamaParse Integration:無縫接入 LlamaParse,處理 OCR 與結構化抽取等重任務。