ZeroLeaks/zeroleaks

解決する課題

ZeroLeaksは、LLMシステムプロンプトやエージェント指示のセキュリティをテストするために設計されたレッドチーミングツールです。開発者が、プロンプトが抽出（プロンプト自体の漏洩）やインジェクション（モデルを騙して指示を無視させたり、ツールを悪用させたりする）に対して脆弱かどうかを特定するのに役立ちます。

仕組み

このツールは、システムプロンプトを選択したモデルに読み込み、マルチエージェントオーケストレーションシステムを使用して敵対的攻撃をシミュレートします。6つの専門エージェント（戦略家、攻撃者、評価者、変異者、検査官、オーケストレーター）が協力して攻撃を計画し、ターゲットの応答を分析し、リアルタイムで戦術を適応させます。包括的な行動プローブのコーパスと、Tree of Attacks with Pruning (TAP) などの手法を使用して脆弱性を発見します。

対象ユーザー

本番環境にデプロイする前に、コマンドラインまたはTypeScriptライブラリを通じてシステムプロンプトの脆弱性をスキャンしたい開発者やセキュリティ研究者を対象としています。

主な特徴

• マルチエージェント攻撃: 6つのエージェントチームを使用して、攻撃戦略を動的に調整します。
• インジェクションコーパス: ツールハイジャック、間接インジェクション、権限乱用をカバーする78の行動プローブが含まれています。
• コンプライアンス判定: 単純なキーワードチェックに頼るのではなく、LLMジャッジを採用して、ターゲットが実際に攻撃に従ったかどうかを判断します。
• 柔軟なモデル選択: 攻撃者、ターゲット、評価者、ジャッジの役割ごとに異なるモデルを指定できます。
• 幅広いプロバイダーサポート: OpenRouter、OpenAI、およびOpenAI互換エンドポイント（例: Ollama、vLLM）で動作します。
• マルチターン・グルーミング: ペイロードを配信する前に、数ターンかけて信頼関係を築く複雑な攻撃をシミュレートします。