CyberSunil/LLMVault

解決的問題

LLMVault 為開發者與安全研究人員提供一個安全的實作環境，用於學習 OWASP LLM 應用程式十大安全風險。它解決了缺乏實際、類似 CTF（奪旗賽）風格訓練環境的問題，使用者可在不危及生產系統的情況下，練習針對常見 AI 缺陷的攻擊與防禦。

工作原理

該平台以兩種不同模式運作：

• 遊玩模式： 一個帶分數的訓練範圍，包含三個層級（核心、進階、專家）共 25 個實驗。這些實驗使用腳本化助手確保結果可重現，使使用者能夠反覆練習特定技術，直至形成肌肉記憶。
• 即時模式： 透過 Ollama 或 OpenAI 相容端點連接到真實的本地 LLM。在此模式下，每個會話都會產生新的密鑰，模型的不可預測性要求使用者真正操縱 AI 以洩露資訊。

系統基於 Flask 建構，可透過 Docker 部署。它包含一個進度追蹤儀表板、遊玩模式的評分系統，以及整合的參考面板，在每個實驗前解釋 OWASP 分類，在實驗完成後提供必要的修復方法。

適用對象

專為安全教育者、開發者與 AI 實務者設計，幫助他們學習如何識別、利用並緩解 LLM 特有的安全風險，如提示注入、資料污染和過度自主性。

主要亮點

• 分層學習路徑： 從 10 個核心 OWASP 實驗開始，逐步進階到 10 個進階多輪對話挑戰，最後是 5 個加密的專家實驗。
• 真實模型整合： 即時模式允許使用者在實際本地模型（如 Qwen 2.5）上進行測試，體驗不可預測的 AI 行為。
• 全面覆蓋： 涵蓋完整的 OWASP LLM Top 10，包括多模態間接注入和下游輸出處理。
• 整合教育： 每個攻擊情境均附有詳細的防禦說明與修復方案。
• 遊戲化體驗： 包含評分系統、等級（從初學者到保險庫大師）、可分享的完成卡片。