SafeAI-Lab-X/ClawKeeper

何を解決するか

ClawKeeper は、ツール（シェル、Python、ブラウザアクセスなど）を使用するエージェントシステムのためのセキュリティ層を提供します。リスクの高いコマンドの実行、資格情報の漏洩、プロンプトインジェクションや汚染されたツール出力への脆弱性を防止します。

動作方法

これは、AIエージェントとそのツールの間に配置されるホスト非依存のミドルウェアです。『Judge』を使用して危険なツール呼び出しをブロックし、機密情報をマスク（レダクション）します。意図やツールの履歴を理解する必要がある複雑な判断には、オプションの『Watcher』デーモンに委任でき、エージェントの進行状況を推論します。システムは、学習された攻撃パターンを合成し、ガード層にホットリロードすることで自己改善が可能です。

対象ユーザー

Hermes Agent や MCP ツールなど、異なるランタイムでツール実行を安全に保つための標準化された方法を必要とする、ツールを使用するエージェントを開発する開発者。

特徴

• ホスト非依存: Python のインポートまたは非 Python 用の HTTP サーバーで動作可能。
• 多層防御: 確定的なガードルールと、LLM駆動の Watcher による軌道レベルの推論を組み合わせ。
• 自己改善: 学習された攻撃パターンを永続化し、ガード層にホットリロード可能で、ガードのカバレッジを向上。
• 包括的なガードセット: シェル実行、保護されたパスアクセス、SSRFパターン、エンコードされたペイロードをカバー。