securetron-gh/aifw

解决的问题

AI-FW 解决了 AI 代理与语言模型通信时对安全性、治理和可审计性的需求。没有它，组织几乎无法了解发送了哪些提示、返回了哪些响应，或者策略是否得到执行。AI-FW 在中间放置一个网关，使每个提示和响应都能被检查、治理和记录，并且它在检查不健康时故障关闭，确保没有流量通过。它还增加了可证明的代理身份和可与监管机构共享的审计跟踪。

工作原理

网关位于客户端（代理、SDK、工具）和 LLM 后端之间。所有流量经过三个步骤：检查（扫描提示、屏蔽 PII、评分语义意图）、治理（应用规则、风险概况和策略来决定允许什么）和路由（使用注册表和弹性逻辑发送到正确的模型后端）。响应返回后，审计步骤记录发生事件的仅元数据日志。网关支持 OpenAI 兼容和 Anthropic 端点，并与 Claude 推理钩子、Cursor Agent Hooks、MCP 工具治理和 Microsoft 365 Copilot 管理集成。您可以使用 Docker Compose 启动它，该组合运行网关和 PostgreSQL 数据库，然后将任何兼容客户端指向网关的 URL。

适用对象

运行 AI 代理或 copilot 并需要企业级安全性、合规性和成本控制的组织。这包括使用 Claude Code、Cursor、MCP 工具、Microsoft 365 Copilot 或任何 OpenAI 兼容应用程序的团队。它适合希望无每次令牌费用和完全控制的自托管用户，以及必须满足 ISO 27001 或 SOC2 要求的用户。

亮点

• 故障关闭设计：检查不健康时无流量通过；离线防护从不委托给第三方。
• 代理被视为身份，支持 A2A 协议、代理注册表、mTLS、Kerberos、OIDC SSO 和 SCIM 配置。
• 通过语义门控提示压缩和检查门控完成缓存节省成本。
• 符合监管要求的审计：仅元数据的交易日志，通过 TLS 上的 syslog 加密导出到 SIEM。
• 表面深度集成：Claude 推理钩子、Cursor Agent Hooks、MCP 工具治理、M365 Copilot 管理（带代理同步）。
• 可选端点网关，用于图像、音频、文件、微调和批处理，在同一检查管道下。
• 支持 200+ 模型和端点，来自 OpenAI、Anthropic、Google、Meta、xAI、DeepSeek、Mistral、Groq、Azure、AWS、Alibaba、Ollama 等。
• 自托管，无每次令牌费用；企业功能包括基于角色的访问控制、OIDC SSO、SCIM 和加密审计导出。