secure-agentic-framework/saf-mcp

해결하는 문제

SAF-MCP는 모델 컨텍스트 프로토콜(MCP)을 활용하는 에이전트 시스템에서 적대적 행동을 체계적으로 문서화하고 분석할 수 있는 프레임워크를 제공합니다. 프롬프트 인젝션, 툴 풀링, 샌드박스 탈출과 같은 AI 에이전트 고유의 보안 위협을 식별하고 분류하며 완화할 수 있는 표준화된 방법의 필요성을 해결합니다.

작동 방식

이 프레임워크는 고유한 적대적 행동을 나타내는 원자적이고 영구적인 기술 ID를 사용합니다. 이러한 기술들은 '프로파일'(예: MCP 프로파일, Code-Agent 프로파일, RAG 및 메모리 프로파일)로 조직되어 ID 중복 없이 특정 도메인에 맞게 행동을 범위를 설정합니다. MITRE ATT&CK 프레임워크와 일치하며, 초기 접근, 실행, 지속성과 같은 14개의 적대적 목표(전술)에 기술을 매핑합니다. 프로젝트는 각 기술이 특정 완화 전략과 탐지 규칙과 연결된 상세한 기술 카탈로그를 제공합니다.

대상 사용자

• 보안 팀: 에이전트 배포를 위한 위협 모델링에 사용.
• 개발자: 운영하는 에이전트, 모델, 도구에 대한 완화 조치를 식별하고 구현.
• 준수 담당자: MITRE ATT&CK 링크를 통해 보안 제어를 알려진 위협에 매핑.
• 레드팀: MCP 배포의 보안 테스트를 위한 참고 자료로 사용.

주요 특징

• 영구적인 기술 ID: 업데이트나 폐기되더라도 일관성을 유지.
• 프로파일 기반 범위 설정: 일반적인 에이전트 메커니즘과 MCP와 같은 도메인 특화 기능을 분리.
• MITRE ATT&CK와의 일치: 확립된 보안 기준을 통해 위협 모델링 및 탐지 엔지니어링 지원.
• 증거 기반 릴리스: 새로운 기술에 대해 추적 가능한 주장과 검증된 탐지가 필요.
• 운영 커버리지 레지스트리: 검증 성숙도와 규칙 소유자를 추적할 수 있는 탐지 커버리지 매트릭스 포함.