julep-ai/julep

Julep — durable, composable AI agents. Flows that crash and resume, retry safely, and explain every step.

해결하는 문제

Julep은 빈번한 충돌, 투명성 부족, 운영 환경에서의 관리 어려움 등 임시 루프(ad-hoc loops)로 구축된 AI 에이전트의 취약성을 해결합니다. Julep은 에이전트를 내구성이 있고 구성 가능한 데이터 흐름으로 구축할 수 있는 프레임워크를 제공하여, 안전한 재시도, 충돌 후 재개, 그리고 모든 실행 단계에 대한 명확한 설명을 가능하게 합니다.

작동 원리

런타임 루프 대신, Julep은 에이전트를 Python의 @flow 함수로 작성하는 "정의에 의한 구성(define-by-construction)" 방식을 사용합니다. 이러한 흐름은 단계의 그래프를 설명하는 고정된 와이어 형식의 중간 표현(IR)으로 컴파일됩니다.

주요 구성 요소는 다음과 같습니다:

Registered Tools and Pures: 에이전트가 호출할 수 있도록 명시적으로 정의된 함수.
Reasoners: 프롬프트를 처리하고 구조화된 데이터를 반환하는 LLM 기반 컴포넌트.
Durable Execution: 선택 사항인 Temporal 레이어를 통해 흐름이 상태를 유지할 수 있어, 충돌 후에도 중단된 지점부터 정확히 재개할 수 있습니다.
Control Plane: 배포, 비밀 저장소(secret vaults), MCP (Model Context Protocol) 안전 검사를 관리하는 셀프 호스팅 FastAPI 컨트롤 플레인.
CLI: 에이전트를 모듈로서 탐색, 린팅, 테스트 및 배포하기 위한 터미널 네이티브 툴셋.

대상 사용자

높은 신뢰성, 엄격한 도구 액세스 제어, 그리고 복잡한 에이전트 워크플로우의 감사 및 트레이스 기능이 필요한 프로덕션급 AI 에이전트 구축 개발자.

주요 특징

Durable Dataflows: 진행 상황을 잃지 않고 흐름이 충돌해도 재개 가능.
Frozen IR: Python 정의를 안정적인 형식으로 컴파일하여 런타임 드리프트 방지.
MCP Integration: 스냅샷 기반의 안전성 및 사전 점검(preflight checks)을 갖춘 도구 참조용 Model Context Protocol 지원.
Production-Ready Tooling: 그래프 시각화, 린팅 및 스테이징/운영 환경 배포를 위한 CLI 포함.
Secure Secret Management: 쓰기 전용 오퍼레이터 볼트와 민감한 자격 증명을 위한 암호화된 Temporal 페이로드 제공.