OWASP/AISVS

OWASP 人工智能安全验证标准（AISVS）

它是什么

• 一个由社区驱动的、针对AI赋能系统的可测试安全需求目录。它借鉴了OWASP应用安全验证标准（ASVS），但专注于整个模型生命周期中的AI特定威胁——从数据收集和训练到部署、监控和退役。

适用对象

• 需要具体清单来验证AI应用是否达到既定安全保证级别的开发人员、架构师、安全工程师、审计人员和采购团队。

组织方式

• 需求分为12个章节（例如，训练数据完整性、输入验证、模型生命周期管理、对抗性鲁棒性等）。
• 每个需求都有唯一标识符，如C9.4.3，并有一个验证级别（1=基线，2=标准，3=高保证）。
• 每个需求都附有研究维基，描述其缓解的威胁、验证方法、工具建议和未解决的差距。

如何使用

1. 设计阶段 – 在架构AI管道时，将AISVS章节视为安全设计清单。
2. 开发/CI-CD – 将相关控制嵌入代码审查、自动化测试和部署管道中。
3. 评估 – 使用该标准作为渗透测试、审计或第三方评估的框架。
4. 采购 – 在评估供应商或现成模型时，引用特定的AISVS控制。

验证级别

• 级别1 – 任何AI系统（包括内部工具）的基线控制。
• 级别2 – 处理敏感数据或做出重大决策的生产系统的标准控制。
• 级别3 – 高保证、安全关键或受监管环境的高级控制。

当前版本

• 最新稳定版本为AISVS 1.01（提供PDF和Markdown源文件）。仓库遵循锁定文件夹版本控制方案（1.0/、1.01/、1.02-dev/）。

它不是什么

• 它不是治理或风险管理框架（这些由NIST AI RMF、ISO/IEC 42001、欧盟AI法案等覆盖）。
• 它不认可特定工具或产品。

贡献

• 社区成员可以打开问题或提交拉取请求，以改进需求、添加参考或澄清验证步骤。安全问题通过项目的安全策略处理。

许可证

• 所有内容均根据知识共享署名-相同方式共享4.0国际许可证发布。

---

简而言之，AISVS为保护AI应用提供了实用、面向测试的清单，帮助团队从模糊的最佳实践建议转向具体、可审计的控制。