julep-ai/julep

해결하는 문제

Julep은 종종 충돌하거나 조용히 실패하는 임시 루프(ad-hoc loops)로 구축된 AI 에이전트의 취약성을 해결합니다. Julep은 충돌 후 재개할 수 있고, 작업을 안전하게 재시도할 수 있으며, 실행 중에 수행된 모든 단계에 대해 명확한 설명을 제공할 수 있는 내구성 있는 컴포저블 AI 에이전트를 생성하기 위한 프레임워크를 제공합니다.

작동 방식

단순한 루프 대신, Julep은 에이전트 로직을 컴포저블 데이터 흐름으로 취급합니다. 개발자는 Python에서 @flow 데코레이터를 사용하여 이를 정의하며, 로직은 고정된 와이어 형식의 중간 표현(IR)으로 컴파일됩니다. 이를 통해 시스템이 상태와 진행 상황을 추적할 수 있습니다.

주요 구성 요소는 다음과 같습니다:

• Reasoners: 정의된 LLM 구성(모델, 시스템 프롬프트, 출력 스키마).
• Tools and Pures: 에이전트가 호출할 수 있는 등록된 함수이며, "pures"는 결정론적 로직을 의미합니다.
• Durable Execution: Temporal 또는 DBOS와의 선택적 통합을 통해 흐름이 상태를 유지할 수 있어, 실패한 지점부터 재개할 수 있습니다.
• MCP Integration: 표준화된 도구 상호작용 및 안전성 검사를 위한 Model Context Protocol (MCP) 지원.
• Control Plane: 다양한 환경에서 에이전트를 관리, 배포 및 트레이스하기 위한 CLI 및 서버.

대상 사용자

신뢰성, 엄격한 도구 액세스 제어, 그리고 복잡한 다단계 에이전트 워크플로우를 감사하거나 추적할 수 있는 기능이 필요한 프로덕션급 AI 에이전트를 구축하는 개발자를 위해 설계되었습니다.

주요 특징

• Durable State: 진행 상황을 잃지 않고 흐름이 충돌 후 재개될 수 있습니다.
• Safe Retries: 도구 호출에 대한 재시도 및 타임아웃 기능 내장.
• Strict Tooling: 에이전트는 고정된 서페이스를 통해 명시적으로 허용되지 않은 모든 도구에 대한 접근이 거부됩니다.
• Developer Tooling: 에이전트 목록 표시, 실행, 린팅, 테스트 및 배포를 위한 터미널 네이티브 CLI.
• Deployment Pipeline: 불변의 S3 아티팩트 릴리스 및 Helm을 통한 Kubernetes 기반 조정(reconciliation) 지원.