agentcontrol/agent-control

解決的問題

Agent Control 提供一個中央化的層，用於強制執行 AI 代理的執行時防護規則。開發者無需將安全邏輯硬編碼至代理的核心程式碼或提示詞中，即可防止提示注入、PII（個人識別資訊）外洩以及危險工具呼叫等風險。

作法原理

此系統由伺服器與 SDK 組成。開發者使用 @control() 裝飾器包裝模型或工具呼叫。執行時，SDK 會將輸入與輸出傳送至 Agent Control 伺服器，伺服器根據一組可設定的規則（控制項）進行評估。若違反規則，系統將阻止該動作並拋出 ControlViolationError。

適用對象

適用於使用 LangChain、CrewAI、Google ADK 和 AWS Strands 等框架建構 AI 代理的開發者，他們需要一種方式從單一儀表板或 API 中管理多個代理的安全策略。

主要特色

• 集中管理：透過 UI 或 API 定義與更新安全控制規則，無需重新部署代理程式碼。
• 可插入式評估器：內建正規表示式、清單、JSON 與 SQL 評估器，並支援自訂評估器。
• 框架無關：相容於多種代理框架，支援 Python 與 TypeScript SDK。
• 可觀測性：整合 OpenTelemetry 與自訂事件接收器，用於追蹤控制執行狀況。