devchilll/scope

解决的问题

SCOPE 为在高风险环境（如银行业）中运行的企业级 AI 代理提供治理框架。在这些环境中，安全性、合规性和可审计性至关重要。它防止代理执行未经授权的操作、泄露敏感数据，或在无人类监督的情况下做出高风险决策。

工作原理

基于 Google 的 Agent Development Kit (ADK)，SCOPE 采用“纵深防御”架构，由六个模块化支柱组成：

1. 安全：使用快速的 ML 检查（例如 Toxic-BERT）在输入到达大语言模型（LLM）之前阻止恶意内容，同时结合基于 LLM 的上下文安全机制。
2. 合规：强制执行人类可读的业务和监管规则（例如 PCI-DSS、HIPAA），代理在每次决策时都必须查阅这些规则。
3. IAM：实现基于角色的访问控制（RBAC），通过 USER、STAFF 和 ADMIN 等角色限制工具访问和数据可见性。
4. 升级：将低置信度决策或高价值交易路由至人类介入的审查队列，该队列存储在 SQLite 中。
5. 数据：提供受 IAM 保护的数据库层，用于对敏感记录进行安全操作。
6. 日志：生成结构化审计日志和合规专用日志，用于监管报告。

适用对象

为金融、医疗、法律等受监管行业开发关键任务 AI 代理的开发者和企业。

主要亮点

• LLM 前置防护：在调用 LLM 前约 50ms 内阻止不安全内容，降低计算成本和延迟。
• 决策逻辑：将代理行为分类为 APPROVE、REJECT、REWRITE 或 ESCALATE。
• 监管模板：包含医疗、金融和法律领域的预定义合规规则。
• 完整可观测性：通过 ADK Web UI 实现集成追踪，并提供专用终端日志查看器，支持实时审计。