devchilll/scope

解決的問題

SCOPE 為在高風險環境（例如銀行業）中運作的企業級 AI 代理提供治理框架。在這些環境中，安全性、合規性與可審計性至關重要。它防止代理執行未授權的操作、洩漏敏感資料，或在無人類監督的情況下做出高風險決策。

工作原理

基於 Google 的 Agent Development Kit (ADK)，SCOPE 採用「深度防禦」架構，由六個模組化支柱組成：

1. 安全：使用快速的 ML 檢查（例如 Toxic-BERT）在輸入到達大語言模型（LLM）之前阻止惡意內容，同時結合基於 LLM 的上下文安全機制。
2. 合規：強制執行人類可讀的業務與法規規則（例如 PCI-DSS、HIPAA），代理在每次決策時都必須查閱這些規則。
3. IAM：實現基於角色的存取控制（RBAC），透過 USER、STAFF 和 ADMIN 等角色限制工具存取與資料可見性。
4. 升級：將低置信度決策或高價值交易路由至人工介入的審查佇列，該佇列儲存在 SQLite 中。
5. 資料：提供受 IAM 保護的資料庫層，用於對敏感記錄進行安全操作。
6. 日誌：產生結構化審計日誌與合規專用日誌，用於監管報告。

適用對象

為金融、醫療、法律等受監管產業開發關鍵任務 AI 代理的開發者與企業。

主要亮點

• LLM 前置防護：在呼叫 LLM 前約 50ms 內阻止不安全內容，降低計算成本與延遲。
• 決策邏輯：將代理行為分類為 APPROVE、REJECT、REWRITE 或 ESCALATE。
• 法規模板：包含醫療、金融與法律領域的預設合規規則。
• 完整可觀測性：透過 ADK Web UI 實現整合追蹤，並提供專用終端日誌檢視器，支援即時審計。