AISecurityLab/hackagent

HackAgent – AIエージェント向けセキュリティレッドチームツールキット

概要 – HackAgentは、AIエージェント（チャットボット、自律型アシスタントなど）の安全性を調査するためのPython SDKおよびコマンドラインツールです。既知の攻撃手法（プロンプトインジェクション、ジェイルブレイク、ゴールハイジャック、ツール悪用）のライブラリと、敵対的プロンプトを生成してターゲットエージェントに対して実行し、安全対策が回避されたかどうかを判定する小規模なフレームワークを統合しています。

重要性 – LLM駆動型エージェントの自律性が高まるにつれ、従来のソフトウェアテストツールでは、モデルの推論を操作したり、ツール使用能力を悪用したりする攻撃を見逃すようになっています。HackAgentは、セキュリティ研究者やAI安全エンジニアが独自の攻撃ハーネスを構築することなく、これらのリスクを評価できる、研究に基づいたすぐに使えるパイプラインを提供します。

---

主要コンポーネント

コンポーネント	役割
攻撃エンジン	攻撃カタログ（AdvPrefix, AutoDAN‑Turbo, PAIR, TAP, FlipAttack, BoN, h4rm3l, CipherChat, PAP, Static Template）を実行します。
ジェネレーター	指定されたターゲットに対する敵対的プロンプトを作成するLLM。
判定器	攻撃が成功したか（ターゲットが安全ポリシーに違反したか）を判断するLLM。
ターゲットエージェント	テスト対象のAIエージェント – サポートされているSDKで構築されたあらゆるエージェント。
データセット	組み込みのベンチマークセット、およびカスタムJSON、HuggingFace、またはURLベースのデータセットを読み込む機能。

---

サポートされているAIフレームワーク

• Google ADK
• OpenAI SDK
• LiteLLM
• LangChain

これらのいずれかで構築されたエージェントは、最小限の設定でパイプラインに接続できます。

---

インストールと実行

# Typical Python install
python3 -m venv .venv && source .venv/bin/activate
pip install hackagent

ローカル使用にAPIキーは不要です。

Linux、macOS、Windows向けの自己完結型バイナリも公開されているため、Pythonランタイムなしで hackagent を実行できます。（唯一の外部要件は、hackagent web コマンドに必要なPlaywrightのブラウザです。）

---

典型的なワークフロー (CLI例)

# 1. Choose a target (e.g., an OpenAI‑based chatbot)
export OPENAI_API_KEY=…
# 2. Run a suite of attacks against it
hackagent run --target openai --attacks all --dataset default
# 3. View results locally
hackagent report --format html > report.html
# 4. Optional: launch the interactive dashboard
hackagent web

CLIはライブ進捗状況を表示するTUIを備えており、結果はローカルのSQLiteファイルに保存されます。HackAgentクラウドサービス用にAPIキーを設定すると、同じデータをリモートダッシュボードに同期できます。

---

レポートと責任ある利用

• ローカルモード – SQLiteデータベース、オフラインのみ。
• クラウドモード – HackAgent SaaSプラットフォームに同期（APIキーはCLIプロセスから決して外部に出ません）。
• 本プロジェクトには、**責任ある開示（Responsible Disclosure）**ガイドと、テストが許可されている必要があるという明確なポリシーが含まれています。

---

プロジェクトの健全性 (README参照)

• Python 3.10+が必要、Apache‑2.0ライセンス。
• CIバッジ、テストカバレッジバッジ、自動フォーマットツール（Ruff, uv, Commitizen）により、活発にメンテナンスされているコードベースであることが示されています。
• コミュニティでの議論やセキュリティポリシーが提供されています。

---

要約

HackAgentは、LLM搭載エージェントのレッドチームスタイルのセキュリティテスト用に構築されたオープンソースのツールキットです。実証済みの攻撃カタログ、生成/判定ループ、主要なLLM SDKとの統合を提供し、これらすべてがPythonパッケージとクロスプラットフォームCLIにまとめられています。