run-llama/llama-agents

Llama Agents + Workflows are an event-driven, async-first, step-based way to control the execution flow of AI applications like agents.

What it solves

ドキュメント中心のエージェントを本番環境向けに構築する際の複雑さに対処します。ドキュメントワークフローは OCR、LLM、構造化抽出、ヒューマンレビューといった混沌とした組み合わせが多く、通常は遅くて重いです。LlamaAgents は、カスタムマイクロサービスアーキテクチャを構築したり、制限のあるドメイン固有言語(DSL)を使用したりすることなく、これらのステップを信頼性高くオーケストレーションする方法を提供します。

How it works

LlamaAgents は、ステップが非同期 Python 関数として定義され、イベントを発行・消費するイベント駆動型オーケストレーションライブラリに基づいています。これにより、開発者は純粋な Python で分岐、ループ、並列化を含む複雑なロジックを作成できます。フレームワークは柔軟性を重視して設計されており、シンプルなスクリプトとして開始でき、プロダクション向けに REST API サーバーにラップしたり、CLI ツールを通じてフルスタックエージェントアプリとしてデプロイしたりできます。

Who it’s for

ノートブックでのプロトタイピングからスケーラブルで耐久性のあるエージェントを本番環境やロックダウンされた顧客環境へデプロイする必要がある、ドキュメント中心の AI パイプラインを構築する Python 開発者向けです。

Highlights

  • Event-Driven Orchestration:DSL を使わずに、async Python 関数で複雑なワークフローロジックを処理します。
  • Flexible Deployment:軽量ライブラリとして使用したり、FastAPI/Starlette アプリに統合したり、llamactl を介してさまざまなインフラにデプロイしたりできます。
  • Durable State:ファイルやデータベースなどのプラグイン可能なバックエンドを通じて、実行の永続化と再開をサポートします。
  • LlamaParse Integration:OCR や構造化抽出といった重いタスクのために LlamaParse とシームレスに連携します。