agent-governance-toolkit: 자율 AI 에이전트를 위한 결정론적 정책 집행 및 거버넌스 레이어

해결하는 문제

AI 에이전트는 종종 자율적인 결정을 내리며, 이는 파괴적인 명령 실행이나 데이터 유출과 같은 보안 위험을 초래할 수 있습니다. 프롬프트 수준의 안전성(“규칙을 따라 주세요”)에 의존하는 것은 모델이 프롬프트 인젝션 및 적대적 공격에 취약하기 때문에 신뢰할 수 없습니다. 이 툴킷은 에이전트 행동이 실행되기 전에 가로채는 결정론적 제어 레이어를 제공하여 금지된 행동을 가능성이 낮은 것이 아니라 구조적으로 불가능하게 만듭니다.

작동 방식

툴킷은 AI 에이전트와 에이전트가 사용하는 도구 사이에 위치하는 거버넌스 커널을 구현합니다. 에이전트가 행동을 시도하면 정책 엔진이 이를 가로채어 YAML, OPA, 또는 Cedar로 작성된 정의된 규칙 집합에 대해 요청을 평가합니다. 시스템은 이후 에이전트의 신원을 확인하고 변조 방지 감사 로그에 결정을 기록합니다. 정책에 의해 행동이 거부되면 시스템은 GovernanceDenied 오류를 발생시켜 도구 실행을 차단합니다.

대상 사용자

엄격한 정책 집행, 감사 가능성 및 OWASP Agentic AI Top 10, EU AI Act와 같은 표준 준수가 필요한 자율 AI 에이전트를 프로덕션 환경에 배포하는 개발자와 SRE를 위한 툴킷입니다.

주요 특징

• 다중 언어 지원: Python, TypeScript, .NET, Rust, Go용 SDK 제공.
• 프레임워크 비종속: Semantic Kernel, AutoGen, LangGraph, CrewAI, OpenAI Agents SDK 등 주요 프레임워크와 통합.
• 결정론적 집행: 차단된 행동이 실행될 수 없도록 하는 fail-closed 정책 엔진 사용.
• 포괄적인 거버넌스 스택: 실행 샌드박싱(Agent Runtime), SLO 모니터링(Agent SRE), 프롬프트 인젝션 감사(PromptDefense Evaluator) 도구 포함.
• MCP 보안 게이트웨이: Model Context Protocol (MCP) 서버에서 도구 중독, 드리프트, 숨겨진 명령을 특별히 탐지.

요약

자율 AI 에이전트를 위한 거버넌스 프레임워크로, 결정론적 정책 집행, 신원 관리 및 감사 로그를 제공하여 무단 또는 파괴적인 행동을 방지합니다.

제목

agent-governance-toolkit: 자율 AI 에이전트를 위한 결정론적 정책 집행 및 거버넌스 레이어