SponsioLabs/Sponsio
Deterministic safety solutions for probabilistic AI agents
Sponsio – AI 代理的运行时防护机制
它是什么 – Sponsio 是一个轻量级的开源库,位于基于 LLM 的代理程序(例如 LangChain、Claude、OpenAI 或 CrewAI 机器人)与代理程序想要调用的工具之间。它会针对每次工具调用评估“合约”(基于形式化方法的确定性规则),并可以通过、阻止、警告或升级该调用。这些检查在微秒内执行,且从不调用其他模型,使其比“LLM 作为判断者”(LLM-as-judge)的方法更便宜且更具可预测性。
核心概念
| 概念 | 解释 |
|---|---|
| 代理合约 | 一种运行时规则(以小型 YAML DSL 表示),在每个代理动作上强制执行。合约可以查看当前调用以及先前调用的历史记录,从而实现诸如“仅在用户经过验证后才发放退款”之类的策略。 |
| 确定性强制执行 | 合约被编译为模糊线性时序逻辑 (LTL) 监控器。监控器在 < 0.01 毫秒内决定是否允许调用,无需任何 LLM 推理。 |
| 形式化方法支持 | 规则语言设计为可证明是健全的;文档包含关于底层形式化方法的入门介绍。 |
| 可扩展的合约库 | 22 个现成的套件(例如 destructive、shell、filesystem)涵盖了常见的风险模式。套件只是 YAML 包含文件,因此新增一个新套件只需一行变更。 |
| 本地优先,可选云端控制台 | 强制执行完全在主机上执行;托管控制台 (app.sponsio.dev) 可用于查看运行状况、审查规则集并发布经过审核的合约。 |
运作方式(高阶概览)
- 入门 – 运行
sponsio init .(或对 Claude/Code 使用一次性提示词),向导会创建一个sponsio.yaml,检测您的框架(LangChain、CrewAI 等)并注入适当的包装代码。 - 包装代理 – 导入 SDK 并附加防护:
import sponsio, sponsio.bridge guard = sponsio.Sponsio(config="sponsio.yaml", agent_id="mailer", mode="enforce") run = sponsio.bridge.attach(guard) # 所有后续的工具调用都会经过防护机制 - 合约评估 – 对于每个工具调用,监控器会检查相关合约(例如“代码冻结期间禁止破坏性 SQL”)。决策会立即返回(p50 ≈ 0.005 毫秒)。
- 审计与查看 – 每个决策都会在本地记录,并可选择流式传输到托管控制台,人类可以在规则集生效前进行批准或编辑。
快速入门(Python 示例)
pip install --pre sponsio # 或使用 npm i -D @sponsio/sdk@alpha 进行 TypeScript 安装
sponsio init . # 向导会创建 sponsio.yaml
在 sponsio.yaml 中新增一个套件:
agents:
my_agent:
workspace: "/srv/my-bot"
include:
- sponsio:capability/destructive
- sponsio:capability/filesystem
如上所示运行您的代理。现在,除非合约明确允许,否则代理将被禁止执行任何破坏性 SQL 或不安全的系统操作。
性能与安全数据(来自仓库)
| 基准测试 | 指标 | 结果 |
|---|---|---|
| ODCV-Bench (12 个前沿 LLM × 80 个轨迹) | 避免的错误对齐 | 95.6 % 平均,100 % 在 24 个高风险场景中 |
| Financial-Audit-Fraud-Finding | 阻止的欺诈尝试 | 18/19 阻止 |
| RedCode-Exec (1,410 个案例) | 综合通过率 | 98.9 % (本地),~99 % 搭配云端 LLM-judge |
| 每个合约的延迟 | p50 | 0.0052 毫秒 |
| 最重工作负载(每次调用 19 个合约) | p50 | 0.139 毫秒 |
| LLM-as-judge 比较 | 延迟 | 5,000-60,000 倍更快 (无模型调用) |
谁应该使用 Sponsio?
- 平台团队:向终端用户公开 LLM 代理(例如 SaaS 代码助手、自主机器人)并需要确定性安全保证的团队。
- 企业:必须执行合规性政策(例如无数据外泄、无破坏性数据库写入)且不能增加延迟的企业。
- 开发人员:构建自定义工具调用循环,想要即插即用防护机制而非编写临时提示词检查的开发人员。
安装与生态系统
| 语言 | 套件 | 安装指令 |
|---|---|---|
| Python | sponsio (预发布版) |
pip install --pre sponsio |
| TypeScript/JavaScript | @sponsio/sdk (alpha) |
npm install -D @sponsio/sdk@alpha |
支持的集成包括 LangChain、Claude Agents、OpenAI Agents、Google ADK、CrewAI、Vercel AI、MCP 以及任何自定义工具调用循环。
贡献与社区
- 问题与功能构想 – 开启 GitHub Issue。
- 合约贡献 – 新增 YAML 套件或模式;仓库鼓励社区驱动的特定事件合约。
- 讨论 – README 中提供了 Discord、X(前身为 Twitter)和 LinkedIn 链接。
授权
Apache 2.0 – 可免费进行商业与非商业用途。
总结: Sponsio 为 LLM 代理提供确定性、亚毫秒级的安全检查,让您能执行原本需要缓慢、概率性基于 LLM 的防护机制才能实现的政策。它能与热门的代理框架开箱即用,并可针对任何领域使用自定义合约进行扩展。
相关
- 项目
- 项目
- 项目
- 项目
- 项目