jiep/offensive-ai-compilation

解決する課題

このプロジェクトは、「攻撃的AI」に焦点を当てた、キュレーションされた中央集権的なリソースコレクションを提供します。研究者、セキュリティ専門家、開発者が、AIモデルがどのように悪用される可能性があるか、その脆弱性をどのように評価するか、そしてそれらを保護するためにどのような防御策が存在するかを理解するのに役立ちます。

仕組み

このリポジトリは、攻撃ベクトルと応用分野ごとに整理された構造化された知識ベースとして機能します。敵対的機械学習を「抽出」「反転」「ポイズニング」「回避」という4つの主要な攻撃タイプに分類し、それぞれに関連する学術論文、ツール、防御戦略へのリンクを提供します。また、ペネトレーションテスト、マルウェア、生成AIの操作といった実践的な攻撃ユースケースも網羅しています。

対象読者

このコンピレーションは、機械学習システムの脅威状況を調査し、モデルの堅牢性を評価し、または敵対的攻撃に対するセキュリティ対策を実装する必要があるセキュリティ研究者、AIエンジニア、および学術関係者を対象としています。

ハイライト

敵対的MLの分類体系：抽出、反転、ポイズニング、回避攻撃の詳細な内訳。
防御戦略：差分プライバシー、敵対的学習、データサニタイズなど、厳選された対策リスト。
ツールリソース：ART (Adversarial Robustness Toolbox) や Cleverhans といった確立されたフレームワークへの参照。
生成AIのセキュリティ：音声、画像、動画、テキストモデルの検出と操作に関する特定のセクション。
学術的基盤：詳細な研究のための、査読済み論文や研究リンクの広範なコレクション。