microsoft/PyRIT
The Python Risk Identification Tool for generative AI (PyRIT) is an open source framework built to empower security professionals and engineers to proactively identify risks in generative AI systems.
What it solves
PyRIT 为安全专业人员和工程师提供了一个结构化的框架，以便主动识别生成式 AI 系统中的风险和漏洞。
How it works
它是一个基于 Python 的工具集，旨在自动化在 AI 模型中寻找风险的过程，，让用户可以测试其生成式 AI 实现中的安全性与安全保障。
Who it's for
需要评估生成式 AI 系统安全性与安全保障的安全专业人员和工程师。
Highlights
- 开源的风险识别框架。
- 专为生成式 AI 系统设计。
- 基于 Python 的实现。