julep:一個用於構建耐久、可組合 AI 代理的框架,將其視為資料流,能安全重試與恢復
julep:一個用於構建耐久、可組合 AI 代理的框架,將其視為資料流,能安全重試與恢復
它解決了什麼問題
Julep 針對以臨時迴圈方式構建的 AI 代理的脆弱性提供了解決方案。它提供一個框架,讓開發者能建立耐久、可組合的代理,這些代理可以在崩潰後恢復、安全地重試操作,並對執行過程中的每一步提供清晰的說明。
工作原理
Julep 不使用簡單的迴圈,而是將代理視為可組合的資料流。開發者使用 @flow 裝飾器來定義步驟圖。此過程會將 Python 程式碼編譯成凍結的線路格式中間表示(IR)。系統支援已註冊的工具、推理器(LLM)、分支與逾時。為了確保耐久性,Julep 提供可選的 Temporal 或 DBOS 整合,讓工作流程能持久化其狀態並從失敗中恢復。
適用對象
此框架適合構建需要高可靠性、嚴格工具呼叫權限,以及能追蹤與除錯執行路徑的複雜 AI 代理系統的開發者。
重點特色
- 耐久執行:與 Temporal 與 DBOS 的整合,使流程在崩潰後能恢復。
- 以建構定義:使用 Python 裝飾器將代理邏輯編譯成結構化圖形。
- 開發者 CLI:提供終端原生的 CLI,可列出、執行、檢查、測試與部署代理,並支援 Graphviz DOT 可視化代理 DAG。
- 可擴充執行環境:提供 OpenTelemetry、Langfuse、WASM 沙箱以及多供應商 LLM 支援的可選擴充功能。
Sources
- undefinedjulep-ai/julep