SponsioLabs/Sponsio

Deterministic safety solutions for probabilistic AI agents

Sponsio – AI 代理的运行时防护机制

它是什么 – Sponsio 是一个轻量级的开源库,位于基于 LLM 的代理程序(例如 LangChain、Claude、OpenAI 或 CrewAI 机器人)与代理程序想要调用的工具之间。它会针对每次工具调用评估“合约”(基于形式化方法的确定性规则),并可以通过阻止警告升级该调用。这些检查在微秒内执行,且从不调用其他模型,使其比“LLM 作为判断者”(LLM-as-judge)的方法更便宜且更具可预测性。


核心概念

概念 解释
代理合约 一种运行时规则(以小型 YAML DSL 表示),在每个代理动作上强制执行。合约可以查看当前调用以及先前调用的历史记录,从而实现诸如“仅在用户经过验证后才发放退款”之类的策略。
确定性强制执行 合约被编译为模糊线性时序逻辑 (LTL) 监控器。监控器在 < 0.01 毫秒内决定是否允许调用,无需任何 LLM 推理。
形式化方法支持 规则语言设计为可证明是健全的;文档包含关于底层形式化方法的入门介绍。
可扩展的合约库 22 个现成的套件(例如 destructiveshellfilesystem)涵盖了常见的风险模式。套件只是 YAML 包含文件,因此新增一个新套件只需一行变更。
本地优先,可选云端控制台 强制执行完全在主机上执行;托管控制台 (app.sponsio.dev) 可用于查看运行状况、审查规则集并发布经过审核的合约。

运作方式(高阶概览)

  1. 入门 – 运行 sponsio init .(或对 Claude/Code 使用一次性提示词),向导会创建一个 sponsio.yaml,检测您的框架(LangChain、CrewAI 等)并注入适当的包装代码。
  2. 包装代理 – 导入 SDK 并附加防护:
    import sponsio, sponsio.bridge
    guard = sponsio.Sponsio(config="sponsio.yaml", agent_id="mailer", mode="enforce")
    run = sponsio.bridge.attach(guard)   # 所有后续的工具调用都会经过防护机制
    
  3. 合约评估 – 对于每个工具调用,监控器会检查相关合约(例如“代码冻结期间禁止破坏性 SQL”)。决策会立即返回(p50 ≈ 0.005 毫秒)。
  4. 审计与查看 – 每个决策都会在本地记录,并可选择流式传输到托管控制台,人类可以在规则集生效前进行批准或编辑。

快速入门(Python 示例)

pip install --pre sponsio          # 或使用 npm i -D @sponsio/sdk@alpha 进行 TypeScript 安装
sponsio init .                     # 向导会创建 sponsio.yaml

sponsio.yaml 中新增一个套件:

agents:
  my_agent:
    workspace: "/srv/my-bot"
    include:
      - sponsio:capability/destructive
      - sponsio:capability/filesystem

如上所示运行您的代理。现在,除非合约明确允许,否则代理将被禁止执行任何破坏性 SQL 或不安全的系统操作。


性能与安全数据(来自仓库)

基准测试 指标 结果
ODCV-Bench (12 个前沿 LLM × 80 个轨迹) 避免的错误对齐 95.6 % 平均,100 % 在 24 个高风险场景中
Financial-Audit-Fraud-Finding 阻止的欺诈尝试 18/19 阻止
RedCode-Exec (1,410 个案例) 综合通过率 98.9 % (本地),~99 % 搭配云端 LLM-judge
每个合约的延迟 p50 0.0052 毫秒
最重工作负载(每次调用 19 个合约) p50 0.139 毫秒
LLM-as-judge 比较 延迟 5,000-60,000 倍更快 (无模型调用)

谁应该使用 Sponsio?

  • 平台团队:向终端用户公开 LLM 代理(例如 SaaS 代码助手、自主机器人)并需要确定性安全保证的团队。
  • 企业:必须执行合规性政策(例如无数据外泄、无破坏性数据库写入)且不能增加延迟的企业。
  • 开发人员:构建自定义工具调用循环,想要即插即用防护机制而非编写临时提示词检查的开发人员。

安装与生态系统

语言 套件 安装指令
Python sponsio (预发布版) pip install --pre sponsio
TypeScript/JavaScript @sponsio/sdk (alpha) npm install -D @sponsio/sdk@alpha

支持的集成包括 LangChain、Claude Agents、OpenAI Agents、Google ADK、CrewAI、Vercel AI、MCP 以及任何自定义工具调用循环。


贡献与社区

  • 问题与功能构想 – 开启 GitHub Issue。
  • 合约贡献 – 新增 YAML 套件或模式;仓库鼓励社区驱动的特定事件合约。
  • 讨论 – README 中提供了 Discord、X(前身为 Twitter)和 LinkedIn 链接。

授权

Apache 2.0 – 可免费进行商业与非商业用途。


总结: Sponsio 为 LLM 代理提供确定性、亚毫秒级的安全检查,让您能执行原本需要缓慢、概率性基于 LLM 的防护机制才能实现的政策。它能与热门的代理框架开箱即用,并可针对任何领域使用自定义合约进行扩展。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目