CyberSunil/LLMVault

解决的问题

LLMVault 为开发者和安全研究人员提供了一个安全的实践环境，用于学习 OWASP LLM 应用程序十大安全风险。它解决了缺乏实际的、类似 CTF（夺旗赛）风格的训练环境的问题，用户可以在不危及生产系统的情况下，练习针对常见 AI 漏洞的攻击与防御。

工作原理

该平台以两种不同模式运行：

• 游玩模式： 一个带分数的训练范围，包含三个层级（核心、高级、专家）共 25 个实验。这些实验使用脚本化助手确保结果可复现，使用户能够反复练习特定技术，直至形成肌肉记忆。
• 实时模式： 通过 Ollama 或 OpenAI 兼容端点连接到真实的本地 LLM。在此模式下，每个会话都会生成新的密钥，模型的不可预测性要求用户真正操纵 AI 以泄露信息。

系统基于 Flask 构建，可通过 Docker 部署。它包含一个进度追踪仪表板、游玩模式的评分系统，以及集成的参考面板，在每个实验前解释 OWASP 分类，在实验完成后提供必要的修复方法。

适用人群

专为安全教育者、开发者和 AI 实践者设计，帮助他们学习如何识别、利用并缓解 LLM 特有的安全风险，如提示注入、数据污染和过度自主性。

主要亮点

• 分层学习路径： 从 10 个核心 OWASP 实验开始，逐步进阶到 10 个高级多轮对话挑战，最后是 5 个加密的专家实验。
• 真实模型集成： 实时模式允许用户在实际本地模型（如 Qwen 2.5）上进行测试，体验不可预测的 AI 行为。
• 全面覆盖： 涵盖完整的 OWASP LLM Top 10，包括多模态间接注入和下游输出处理。
• 集成教育： 每个攻击场景均配有详细的防御说明和修复方案。
• 游戏化体验： 包含评分系统、等级（从初学者到保险库大师）、可分享的完成卡片。