julep-ai/julep

解决的问题

Julep 解决了使用临时循环（ad-hoc loops）构建的 AI Agent 的脆弱性问题，这些 Agent 通常会出现崩溃、缺乏透明度且在生产环境中难以管理。它提供了一个框架，将 Agent 构建为持久且可组合的数据流，使其能够安全地重试、在崩溃后恢复，并为每个执行步骤提供清晰的解释。

工作原理

Julep 不使用运行时循环，而是采用“通过构建进行定义（define-by-construction）”的方法，在 Python 中将 Agent 编写为 @flow 函数。这些流被编译成冻结的线缆格式中间表示（IR），用于描述步骤图。

核心组件包括：

• Registered Tools and Pures: Agent 可以调用的显式定义的函数。
• Reasoners: 由 LLM 驱动的组件，用于处理提示词并返回结构化数据。
• Durable Execution: 可选的 Temporal 层允许流持久化状态，使其能够在崩溃后从中断处准确恢复。
• Control Plane: 自托管的 FastAPI 控制平面，用于管理部署、密钥库和 MCP (Model Context Protocol) 安全检查。
• CLI: 用于发现、linting、测试并将 Agent 作为模块进行部署的终端原生工具集。

适用对象

构建生产级 AI Agent 的开发者，他们需要高可靠性、严格的工具访问控制，以及审计和追踪复杂 Agent 工作流的能力。

亮点

• Durable Dataflows: 工作流可以在不丢失进度的情况下发生崩溃并恢复。
• Frozen IR: 将 Python 定义编译成稳定的格式，以防止运行时漂移。
• MCP Integration: 支持 Model Context Protocol，通过快照支持的安全性进行工具引用和预检。
• Production-Ready Tooling: 包括用于图形可视化、linting 以及部署到 staging 或 production 环境的 CLI。
• Secure Secret Management: 具有只写操作员库和用于敏感凭据的加密 Temporal 负载。