Agent-Threat-Rule/agent-threat-rules

何を解決するか

ATR（Agent Threat Rules）は、AIエージェントにおけるセキュリティ脅威を検出するための標準化された、ベンダーに依存しないフォーマットを提供します。OWASP や MITRE ATLAS などの高レベルなリスク分類と、実際にデプロイ可能な検出ルールの間のギャップを埋め、プロンプトインジェクション、ツール汚染、資格情報漏洩などのエージェントインフラストラクチャ上の脆弱性に対処します。

仕組み

ATR は、検出ルールを記述するバージョン管理された YAML スキーマを定義します。各ルールは、どの攻撃パターンをマッチさせるか、どの入力フィールドを検査するか（LLM I/O やツール呼び出し引数など）、そして検出結果をセキュリティフレームワークにどのようにマッピングするかを指定します。

このプロジェクトは、TypeScript で作られた参照エンジンと、Python 用ラッパー（pyATR）を提供し、これらのルールを評価できます。また、CLI を備えており、SKILL.md や MCP 設定ログなどのファイルをスキャンでき、Splunk や Elasticsearch と互換性のあるフォーマットへのルールエクスポートもサポートしています。

対象ユーザー

• セキュリティエンジニア: ランタイムでの脅威検出とブロッキングを実装するため。
• エージェントフレームワーク開発者: エージェントランタイム、プロキシ、IDE拡張機能にセキュリティスキャンを組み込むため。
• レッドチームメンバー: 提供されるテクニックカタログ（ATD）を使ってエージェントのセキュリティをテストするため。
• DevOps/CIエンジニア: GitHub Actions を通じたセキュリティゲートの統合のため。

特徴

• 標準化されたフォーマット: Sigma や YARA に似た機械可読性とPeerレビュー対応性を持つが、AIエージェントに特化したフォーマット。
• 多言語対応: TypeScript と Python での参照実装が利用可能で、Go と Rust の契約が提案済み。
• 柔軟な実行: 「ラン（enforce, alert, hunt）」をサポートし、精度と再現率のバランスを取れる。エージェント行動を制限するためのオプトインブロッキングモードも提供。
• 広範な統合: Microsoft、Cisco、OWASP のツールに統合済み。GitHub セキュリティタブに対応する SARIF 出力もサポート。
• テクニックカタログ: Agentic Threat Detection（ATD）カタログを含み、MITRE ATLAS および OWASP にマッピングされた9つの戦術にわたる80のテクニックを網羅。