jiep/offensive-ai-compilation

它解决了什么问题

该项目提供了一个专注于“攻击性人工智能”的精选集中式资源库。它帮助研究人员、安全专业人员和开发人员了解人工智能模型如何被利用、如何评估其漏洞，以及存在哪些防御措施来保护它们。

它是如何工作的

该存储库作为一个结构化的知识库，按攻击向量和应用领域进行组织。它将对抗性机器学习分为四种主要的攻击类型——提取、反转、投毒和规避——并为每种类型提供了学术论文、工具和防御策略的链接。它还涵盖了实际的攻击性用例，如渗透测试、恶意软件和生成式人工智能操纵。

目标受众

本汇编旨在为需要研究机器学习系统威胁态势、评估模型鲁棒性或实施针对对抗性攻击的安全对策的安全研究人员、AI工程师和学术界人士提供参考。

亮点

• 对抗性机器学习分类法：对提取、反转、投毒和规避攻击的详细分解。
• 防御策略：精选的对策列表，包括差分隐私、对抗性训练和数据清理。
• 工具资源：参考了诸如 ART (Adversarial Robustness Toolbox) 和 Cleverhans 等成熟框架。
• 生成式人工智能安全：关于检测和操纵音频、图像、视频和文本模型的特定章节。
• 学术基础：收集了大量经同行评审的论文和研究链接，供深入研究。