julep-ai/julep

解决的问题

Julep 解决了使用临时循环（ad-hoc loops）构建的 AI Agent 的脆弱性问题，这些 Agent 经常发生崩溃或静默失败。它提供了一个框架，用于创建持久、可组合的 AI Agent，这些 Agent 可以崩溃并恢复、安全地重试操作，并对执行过程中的每一步提供清晰的解释。

工作原理

Julep 不使用简单的循环，而是将 Agent 逻辑视为可组合的数据流。开发人员使用 Python 中的 @flow 装饰器来定义这些逻辑，逻辑会被编译成冻结的线缆格式中间表示 (IR)。这使得系统能够跟踪状态和进度。

核心组件包括：

• Reasoners: 定义好的 LLM 配置（模型、系统提示词、输出 Schema）。
• Tools and Pures: Agent 可以调用的已注册函数，“pures”指确定性逻辑。
• Durable Execution: 通过与 Temporal 或 DBOS 的可选集成，允许 Flow 持久化其状态，使其能够在发生故障后从中断处恢复。
• MCP Integration: 支持 Model Context Protocol (MCP)，用于标准化的工具交互和安全性检查。
• Control Plane: 用于在不同环境中管理、部署和追踪 Agent 的 CLI 和服务器。

适用对象

专为构建生产级 AI Agent 的开发人员设计，这些开发人员需要可靠性、严格的工具访问控制，以及审计或追踪复杂多步 Agent 工作流的能力。

亮点

• Durable State: Flow 可以在不丢失进度的情况下崩溃并恢复。
• Safe Retries: 内置对工具调用进行重试和超时处理的支持。
• Strict Tooling: Agent 被禁止调用任何未通过冻结表面（frozen surface）明确允许调用的工具。
• Developer Tooling: 用于列出、运行、linting、测试和部署 Agent 的终端原生 CLI。
• Deployment Pipeline: 支持不可变的 S3 制品发布以及通过 Helm 进行的基于 Kubernetes 的协调。