CyberSunil/LLMVault

何を解決するか

LLMVault は、開発者やセキュリティ研究者が OWASP Top 10 for LLM Applications を実践的に学べる安全な環境を提供します。実際の生産システムをリスクにさらすことなく、共通する AI セキュリティ脆弱性を攻撃し、その後防御する練習ができる『キャプチャ・ザ・フラグ』(CTF) 形式のトレーニング環境が不足しているという課題を解決します。

動作方法

このプラットフォームは2つの異なるモードで動作します：

• プレイモード： スコア付きのトレーニング範囲で、3つのレベル（コア、上級、エキスパート）に分かれた25のラボを提供します。これらのラボはスクリプト化されたアシスタントを使用して再現性のある結果を保証しており、ユーザーが特定の技術をマスターするまで繰り返し練習できます。
• ライブモード： Ollama や OpenAI 互換エンドポイントを介して実際のローカル LLM に接続します。このモードでは、各セッションごとにシークレットが新しく生成され、モデルの予測不可能な性質により、ユーザーは本物の AI を操作して情報漏洩を引き出す必要があります。

システムは Flask で構築されており、Docker を通じてデプロイ可能です。進捗を追跡できるダッシュボード、プレイモード用のスコアリングシステム、各ラボの前後に OWASP カテゴリの説明と修復方法を提示する統合リファレンスパネルを備えています。

対象ユーザー

セキュリティ教育者、開発者、AI実務家で、プロンプトインジェクション、データ汚染、過剰な自律性などの LLM 特有のセキュリティリスクを特定・攻撃・緩和する方法を学びたい方々に最適です。

特徴

• 段階的学習パス： 10のコア OWASP ラボから始まり、10の上級マルチターン会話チャレンジ、そして5つの暗号化されたエキスパートラボへと進みます。
• 実モデル連携： ライブモードでは、実際のローカルモデル（例：Qwen 2.5）に対してテストが可能で、予測不可能な AI の振る舞いを体験できます。
• 包括的なカバー範囲： マルチモーダル間接インジェクションやダウンストリーム出力処理を含む、OWASP LLM Top 10 の全項目をカバーしています。
• 統合教育： 各攻撃シナリオごとに、防御策と修正方法の詳細な説明を併記しています。
• ゲーム化された体験： スコアリングシステム、ランク（イニシエイトからバールマスターまで）、共有可能な完了カードを備えています。