secure-agentic-framework/saf-mcp

何を解決するか

SAF-MCP は、モデルコンテキストプロトコル（MCP）を活用するエージェント型システムにおける敵対的行動を構造的に文書化・分析するフレームワークを提供します。AIエージェント特有のセキュリティ脅威、たとえばプロンプトインジェクション、ツール汚染、サンドボックス回避などを特定・分類・軽減するための標準化された方法の必要性に対応しています。

動作方法

このフレームワークは、個別の敵対的行動を表す原子的で永続的な技術IDを使用します。これらの技術は「プロファイル」（例：MCPプロファイル、Code-Agentプロファイル、RAGおよびメモリプロファイル）に分類され、IDの重複を避けながら特定の分野に特化した行動をスコープ化します。MITRE ATT&CKフレームワークに準拠しており、14の敵対的目標（戦術）に技術をマッピングしています。たとえば、初期アクセス、実行、恒久性などです。本プロジェクトは、各技術が特定の緩和策や検出ルールとリンクされた詳細な技術カタログを提供しています。

対象ユーザー

• セキュリティチーム：エージェント型デプロイメントの脅威モデル構築に使用。
• 開発者：運用するエージェント、モデル、ツールに対する緩和策の特定と実装に使用。
• コンプライアンス担当者：MITRE ATT&CKとのリンクを通じて、既知の脅威にセキュリティ制御をマッピング。
• レッドチーム：MCPデプロイメントのセキュリティテストの参考として使用。

主な特徴

• 永続的な技術ID：エントリの更新や非推奨になっても一貫性を保証。
• プロファイルベースのスコープ：一般的なエージェントメカニズムとMCPのようなドメイン固有のものとを分離。
• MITRE ATT&CKとの整合性：確立されたセキュリティ基準を通じて脅威モデル構築と検出エンジニアリングを支援。
• 証拠に基づくリリース：新技術のリリースには、追跡可能な主張と検証済みの検出が必須。
• 運用カバレッジレジストリ：検出カバレッジマトリクスを含み、検証の成熟度とルール所有者を追跡。