Cygnux-Labs/Tracekit

解决的问题

AI 代理可能难以审计，因为它们可以修改自己的日志来隐藏未经授权的操作或错误。本项目提供了一种确保代理活动记录防篡改的方法，使您能够验证代理的确切行为、操作是否被允许，以及记录本身是否被篡改。

工作原理

Tracekit 充当 AI 代理的“飞行记录器”。它在工具调用运行前进行拦截，根据定义的策略进行检查，并将每个决策签名到仅可追加的哈希链中。这为每次运行创建一个加密可验证的文件 (.tkb)。由于记录经过签名和链接，任何事后编辑、删除或重新排序日志的尝试都会导致验证失败。

适用对象

它专为需要维护 AI 代理安全性和问责制的开发人员和运维人员设计。对于那些需要证明代理遵循特定规则、防止未经授权的工具使用或在敏感环境中审计代理行为的用户特别有用。

亮点

• 防篡改日志记录：使用哈希链确保日志无法在不被发现的情况下被编辑。
• 执行前控制：在工具调用运行前进行拦截，允许您批准、拒绝或保留以供人工审核。
• 离线验证：提供了一个简单的命令行工具，无需连接互联网即可验证运行日志的完整性。
• 广泛的兼容性：适用于许多流行的代理框架和 SDK，包括 LangChain、LangGraph、CrewAI 等。
• 极低开销：每次工具调用的延迟增加不到 1ms。