SponsioLabs/Sponsio
Deterministic safety solutions for probabilistic AI agents
해결하는 문제
Sponsio는 "에이전트 계약(agent contracts)"이라고 불리는 결정론적 런타임 규칙을 강제함으로써 AI 에이전트가 운영 데이터베이스 삭제 또는 사기 행위와 같은 위험하거나 정렬되지 않은 작업을 수행하는 것을 방지합니다. 이는 LLM이 "속임수"를 쓰거나, 환각을 일으키거나, 제약을 무시할 수 있는 신뢰성 및 보안 격차를 해결하며, 느리고 비용이 많이 드는 LLM-as-judge 가드레일에 대한 고성능 대안을 제공합니다.
작동 방식
Sponsio는 형식 방법(formal methods)을 기반으로 하는 로직 체커를 사용하여 에이전트의 작업을 실시간으로 모니터링합니다. 자연어 규칙 또는 사전 정의된 패턴 라이브러리를 결정론적 계약(Assumption $ ightarrow$ Enforcement)으로 컴파일합니다. 에이전트가 함수 호출을 시도하면 Fuzzy LTL Monitor가 이러한 계약에 따라 작업을 확인하여 호출을 통과, 차단, 경고, 에스컬레이션 또는 리디렉션할지 결정합니다. 이 프로세스는 집행 단계 동안 LLM 호출 없이 0.01 ms 미만으로 수행되므로 프롬프트 기반 필터보다 훨씬 빠릅니다.
대상
LangChain, CrewAI, Vercel AI와 같은 프레임워크를 사용하여 AI 에이전트를 구축하거나 Python 및 TypeScript에서 커스텀 도구 호출 루프를 사용하여 에이전트 작업에 대한 보장된 안전 경계와 감사 추적이 필요한 개발자.
주요 특징
- 극한의 성능: 로직 체크는 최소 0.0052 ms 만에 실행되어 LLM 기반 가드레일보다 수천 배 빠릅니다.
- 결정론적 집행: 형식 방법을 사용하여 LLM의 확률적 특성 없이 규칙이 준수되도록 보장합니다.
- 플러그 앤 플레이 번들: 일반적인 실패 클래스로부터 보호하기 위해 16개의 사전 구축된 계약 번들(예: shell 또는 filesystem 액세스용)이 포함되어 있습니다.
- 폭넓은 통합: 주요 에이전트 프레임워크와 호환되며 Python과 TypeScript를 모두 지원합니다.