SafeAI-Lab-X/ClawKeeper

解決的問題

ClawKeeper 為使用工具（例如 shell、Python 或瀏覽器存取）的智能體系統提供安全層。它可防止智能體執行高風險命令、洩漏憑證，或受到提示注入與被污染工具輸出的攻擊。

工作原理

它作為主機無關的中間件，位於 AI 智能體與其工具之間。透過「Judge」來阻止危險的工具呼叫並隱藏敏感結果。對於需要理解意圖或工具歷史的複雜決策，可委派給可選的「Watcher」守護程序，由其推理智能體的軌跡。系統可透過合成學習到的攻擊模式並熱重新載入至防護層，實現自我進化。

適用對象

需要在不同執行環境（如 Hermes Agent 或 MCP 工具）中以標準化方式保障工具執行安全，並防範 SSRF 或憑證外洩等安全漏洞的工具型智能體開發者。

核心亮點

• 主機無關性： 支援透過 Python 導入或 HTTP 伺服器接入，適用於非 Python 適配器。
• 多層防護： 結合決定性防護規則與基於 LLM 的 Watcher，實現軌跡級推理。
• 自我進化： 可持久化並熱重新載入學習到的攻擊模式，持續提升防護覆蓋範圍。
• 全面防護集： 覆蓋 shell 執行、受保護路徑存取、SSRF 模式及編碼載荷。