julep:一个用于构建持久、可组合 AI 代理的数据流框架,能够安全地重试和恢复
julep:一个用于构建持久、可组合 AI 代理的数据流框架,能够安全地重试和恢复
它解决了什么问题
Julep 解决了使用临时循环构建的 AI 代理的脆弱性。它提供了一个框架,用于创建能够在崩溃后恢复、安全重试操作,并在执行过程中对每一步提供清晰解释的持久、可组合的代理。
工作原理
Julep 并非使用简单循环,而是将代理视为可组合的数据流。开发者使用 @flow 装饰器来定义步骤图。此过程会将 Python 代码编译为冻结的线格式中间表示(IR)。系统支持已注册的工具、推理器(LLM)、分支和超时。为确保持久性,Julep 提供可选的 Temporal 或 DBOS 集成,使工作流能够持久化状态并从故障中恢复。
适用人群
它面向构建需要高可靠性、严格工具调用权限以及能够追踪和调试执行路径的复杂 AI 代理系统的开发者。
亮点
- 持久执行:与 Temporal 和 DBOS 的集成使数据流在崩溃后能够恢复。
- 构造即定义:使用 Python 装饰器将代理逻辑编译为结构化图。
- 开发者 CLI:一个面向终端的 CLI,可用于列出、运行、检查、测试和部署代理,并支持 Graphviz DOT 可视化代理 DAG。
- 可扩展运行时:可选的 OpenTelemetry、Langfuse、WASM 沙箱以及多提供商 LLM 支持等扩展。
Sources
- undefinedjulep-ai/julep