agent-governance-toolkit: 자율형 AI 에이전트를 위한 결정론적 정책 집행 및 거버넌스 레이어

해결하는 문제

AI 에이전트는 종종 도구를 호출하거나, 웹을 탐색하거나, 데이터베이스를 쿼리하는 결정을 자율적으로 내리며 작동합니다. 프롬프트 수준의 안전성(모델에게 규칙을 따르도록 요청하는 것)에 의존하는 것은 모델이 프롬프트 인젝션 및 적대적 공격에 취약하기 때문에 신뢰할 수 없습니다. 이 툴킷은 에이전트의 행동이 실행되기 전에 이를 가로채는 결정론적 거버넌스 레이어를 제공하여, 허용된 행동만 발생하도록 보장하고 규정 준수를 위한 변조 방지 감사 추적을 제공합니다.

작동 방식

이 툴킷은 모든 도구 호출, 메시지 또는 위임이 정책 엔진에 의해 가로채지는 "fail-closed" 아키텍처를 구현합니다. 이 엔진은 (속도와 결정론을 위해 Rust-core 런타임을 사용하여) YAML로 정의된 정책에 따라 요청을 평가하고 신원 및 신뢰 수준을 확인합니다. 정책에 의해 행동이 거부되면, 모델의 의도와 관계없이 에이전트가 이를 실행하는 것은 구조적으로 불가능합니다.

대상 사용자

엄격한 정책 집행, 신원 관리 및 규제 준수(OWASP Agentic Top 10 또는 EU AI Act와 같은)가 필요한 프로덕션 환경에 자율형 AI 에이전트를 배포하는 개발자 및 SRE.

주요 특징

  • 다국어 지원: Python, TypeScript, .NET, Rust, Go용 SDK를 사용할 수 있습니다.
  • 프레임워크 무관: AutoGen, LangGraph, CrewAI, Semantic Kernel, LlamaIndex와 같은 주요 프레임워크와 통합됩니다.
  • 결정론적 집행: 안전성을 확률론적인 프롬프트 기반 요청에서 결정론적인 애플리케이션 코드로 이동시킵니다.
  • 포괄적인 거버넌스 스택: 실행 샌드박싱(Privilege Rings), SRE 모니터링(SLOs, kill switches), 규정 준수 검증(OWASP audits)을 위한 도구를 포함합니다.
  • MCP Security Gateway: Model Context Protocol 서버에서 도구 오염(tool poisoning), 드리프트(drift), 숨겨진 명령(hidden instructions)을 구체적으로 탐지합니다.

Sources