AgentEra/Agently

해결하는 문제

Agently는 실험적인 프롬프트에서 신뢰할 수 있는 프로덕션 백엔드로 AI 서비스를 전환하기 위해 설계된 AI 애플리케이션 런타임 프레임워크입니다. 출력 왜곡과 모델 불안정성 문제를 해결하기 위해 구조화된 출력을 위한 안정적인 계약, 관측 가능한 액션 실행, 복구 가능한 워크플로우를 제공하여 모델이나 제공자 변경 시에도 비즈니스 로직이 유지되도록 보장합니다.

작동 방식

Agently는 애플리케이션과 AI 모델 간의 상호작용을 통합된 요청/런타임 계약을 통해 표준화합니다. "프롬프트 슬롯"을 사용해 요청을 구성하고, 스키마를 프롬프트로 정의하며 프레임워크가 검증하는 계약 중심의 구조화된 출력을 사용합니다. 오케스트레이션을 위해 TriggerFlow라는 시그널 기반 워크플로우 엔진을 포함하며, 일시정지/재개 기능과 이벤트 기반 실행을 지원합니다. 또한 로컬 함수, MCP 서버, 사전 실행 환경(예: gVisor 또는 Landlock)을 지원하는 전용 액션 런타임을 관리합니다.

대상 사용자

• 제품 엔지니어: AI 어시스턴트, 내부 코파일럿, AI 기반 API를 구축하면서 신뢰성과 구조화된 데이터가 필요한 사람.
• 플랫폼 팀: 모델 제공자, 도구, 관측성에 대한 명확한 확장 포인트가 필요한 팀.
• 기술 리드: "프롬프트 접착제"보다 명시적 제어와 디버깅 용이성을 우선시하는 유지보수 가능한 프레임워크를 찾는 사람.

주요 특징

• 계약 우선 출력: 스키마를 프롬프트로 정의하고, 필수 필드 추출 및 검증 핸들러를 통해 구조화된 출력을 보장합니다.
• 구조화된 스트리밍: instant 모드를 통해 모델이 스트리밍 중에도 특정 구조화된 필드에 즉시 반응할 수 있습니다.
• 관측 가능한 액션: Python, Shell, Node.js, SQLite, MCP 서버를 내장 지원하는 관리형 액션 런타임을 제공합니다.
• 시그널 기반 워크플로우: TriggerFlow는 이벤트 기반 DAG, 팬아웃, 상태 스냅샷을 지원하여 복구 가능한 실행을 가능하게 합니다.
• 모델 독립성: 제공자 설정과 응답 파싱을 표준화하여 비즈니스 로직을 재작성하지 않고도 모델을 쉽게 전환할 수 있습니다.