Agent-Threat-Rule/agent-threat-rules

해결하는 문제

ATR(에이전트 위협 규칙)은 AI 에이전트의 보안 위협을 탐지하기 위한 표준화되고 벤더에 종속되지 않은 형식을 제공합니다. OWASP나 MITRE ATLAS와 같은 고수준 위험 분류 체계와 실제 배포 가능한 탐지 규칙 사이의 격차를 메우며, 프롬프트 인젝션, 툴 오염, 자격 증명 유출과 같은 에이전트 인프라스트럭처의 취약점을 해결합니다.

작동 방식

ATR는 탐지 규칙을 작성하기 위한 버전 관리된 YAML 스키마를 정의합니다. 각 규칙은 어떤 공격 패턴을 매칭할지, 어떤 입력 필드를 검사할지(예: LLM I/O 또는 툴 호출 인수), 그리고 발견 결과를 보안 프레임워크로 어떻게 매핑할지 지정합니다.

이 프로젝트는 탐지 규칙을 평가하기 위한 TypeScript 기반 참조 엔진과 Python 래퍼(pyATR)을 제공합니다. 또한 CLI를 통해 파일(예: SKILL.md 또는 MCP 구성 로그)을 스캔할 수 있으며, Splunk 및 Elasticsearch와 호환되는 형식으로 규칙 내보내기 기능도 지원합니다.

대상 사용자

• 보안 엔지니어: 런타임에서 에이전트 위협을 탐지하고 차단하기 위해.
• 에이전트 프레임워크 개발자: 에이전트 런타임, 프록시, IDE 확장에 보안 스캔 기능을 내장하기 위해.
• 레드팀원: 제공된 기술 카탈로그(ATD)를 사용해 에이전트 보안을 테스트하기 위해.
• DevOps/CI 엔지니어: GitHub Actions를 통해 보안 게이팅을 통합하기 위해.

주요 특징

• 표준화된 형식: Sigma나 YARA와 유사하지만 AI 에이전트에 특화된 기계가 읽을 수 있고, 동료 검토가 가능한 규칙 형식.
• 다중 언어 지원: TypeScript와 Python 기반 참조 구현이 제공되며, Go와 Rust 계약이 제안됨.
• 유연한 적용: 정밀도와 재현율을 균형 있게 조절할 수 있는 '레인'(enforce, alert, hunt)을 지원하며, 에이전트 동작을 제한하는 옵트인 차단 모드도 제공.
• 광범위한 통합: Microsoft, Cisco, OWASP 도구에 통합되었으며, GitHub 보안 탭과 호환되는 SARIF 출력도 지원.
• 기술 카탈로그: MITRE ATLAS 및 OWASP에 매핑된 9개의 전술에 걸쳐 80개의 기술을 포함하는 Agentic Threat Detection(ATD) 카탈로그 포함.