devchilll/scope

解决的问题

SCOPE 是一个治理框架，专为在高风险、关键任务环境（例如银行业）中运行的企业 AI 代理设计，在这些环境中，安全性、法规合规性和可审计性是不可妥协的。它能防止不安全输入到达 LLM，并确保代理操作已获授权且被记录。

运作方式

SCOPE 构建于 Google 的 Agent Development Kit (ADK) 之上，采用「纵深防御」架构，涵盖五大核心支柱：

1. 安全性：使用基于 ML 的快速模型前网关（例如 toxic-bert），在约 50 毫秒内阻挡不安全请求，使其永远不会到达 LLM，并辅以基于 LLM 的上下文检查。
2. 合规性：强制执行人类可读的业务和法规规则（例如 PCI-DSS、HIPAA），代理在每个决策中都必须咨询这些规则。
3. 权限 (IAM)：实现基于角色的访问控制（USER、STAFF、ADMIN），确保用户和代理只能访问授权的数据和工具。
4. 升级：将低信心决策或高风险操作（例如大额资金转账）通过 SQLite 路由到人机循环审查队列。
5. 可观测性：为每次交互和工具调用维护详细的审计轨迹和合规特定日志（SOC2、PCI-DSS）。

适用对象

在受监管行业（金融、医疗、法律）部署 AI 代理的企业开发者和组织，需要一层生产级的安全和监督。

重点特色

• LLM 前护栏：在调用模型前阻挡有毒或不安全内容，降低成本并提高安全性。
• 策略即代码：允许以 YAML 或 Python 定义合规规则，并由代理在其推理中引用。
• 精细 IAM：将身份管理直接集成到工具执行中，防止未授权的数据访问。
• 人机循环：针对复杂或高价值案例的内置升级协议。
• 法规日志：针对 PCI-DSS 和 SOC2 合规的专业日志模块。