SafeAI-Lab-X/ClawKeeper

解决的问题

ClawKeeper 为使用工具（如 shell、Python 或浏览器访问）的智能体系统提供安全层。它可防止智能体执行高风险命令、泄露凭证，或受到提示注入和被污染工具输出的攻击。

工作原理

它作为主机无关的中间件，位于 AI 智能体与其工具之间。通过「Judge」来阻止危险的工具调用并屏蔽敏感结果。对于需要理解意图或工具历史的复杂决策，它可以将任务委派给可选的「Watcher」守护进程，由其推理智能体的轨迹。系统可通过合成学习到的攻击模式并热重载到防护层，实现自我改进。

适用人群

需要在不同运行时（如 Hermes Agent 或 MCP 工具）中以标准化方式保障工具执行安全，并防范 SSRF 或凭证外泄等安全漏洞的工具型智能体开发者。

核心亮点

• 主机无关性： 支持通过 Python 导入或 HTTP 服务器接入，适用于非 Python 适配器。
• 多层防御： 结合确定性防护规则与基于 LLM 的 Watcher，实现轨迹级推理。
• 自我进化： 可持久化并热重载学习到的攻击模式，持续提升防护覆盖范围。
• 全面防护集： 覆盖 shell 执行、受保护路径访问、SSRF 模式及编码载荷。