agentcontrol/agent-control

解决的问题

Agent Control 提供了一个集中式层，用于强制执行 AI 代理的运行时防护规则。无需开发者将安全逻辑硬编码到代理的核心代码或提示词中，即可防止提示注入、PII（个人身份信息）泄露以及危险工具调用等风险。

工作原理

该系统由服务器和 SDK 组成。开发者使用 @control() 装饰器包装模型或工具调用。在运行时，SDK 会将输入和输出发送到 Agent Control 服务器，服务器根据一组可配置的规则（控制项）进行评估。如果违反了某条规则，系统将阻止该操作并抛出 ControlViolationError。

适用人群

适用于使用 LangChain、CrewAI、Google ADK 和 AWS Strands 等框架构建 AI 代理的开发者，他们需要一种方式从单一仪表板或 API 中管理多个代理的安全策略。

核心亮点

• 集中管理：通过 UI 或 API 定义和更新安全控制规则，无需重新部署代理代码。
• 可插拔评估器：内置正则表达式、列表、JSON 和 SQL 评估器，并支持自定义评估器。
• 框架无关：兼容多种代理框架，支持 Python 和 TypeScript SDK。
• 可观测性：集成 OpenTelemetry 和自定义事件接收器，用于追踪控制执行情况。