Azure-Samples/ai-hub-gateway-solution-accelerator

解决的问题

Citadel Governance Hub 提供一个集中式的企业级「落地区」，用于 AI 部署。它解决了在大型组织中规模化 AI 创新的同时，保持严格安全、合规和可观测性的难题。各团队不再各自孤立地部署 AI 服务，而是通过此中心化枢纽作为受控网关，强制执行一致的策略，管理成本，并确保所有 AI 使用的安全防护措施。

如何工作

该项目采用中心化控制平面（Governance Hub）管理 AI 策略运行时执行的「中心-辐条」架构。它使用 Azure API Management 作为统一的 AI 网关，将请求路由到不同的 LLM 后端。

治理通过「契约驱动」方式，使用基础设施即代码（Bicep/Terraform）实现，包含三种契约类型：

• 后端契约：定义可用的 LLM 后端和模型（例如 Azure OpenAI、Amazon Bedrock）。
• 访问契约：定义哪些代理或业务部门可以访问特定模型，以及对这些模型应用哪些策略（如 PII 检测或内容安全）。
• 发布契约：允许通过网关发布 AI 工具（MCP）和代理（A2A）。

适用对象

需要在 Azure 上部署安全、可扩展且可观测的 AI 基础设施，以支持多个业务部门和多样化 AI 工作负载的企业平台团队和 AI 架构师。

主要亮点

• 统一 AI 网关：使用 Azure API Management 实现集中式路由、速率限制和身份验证。
• 契约驱动治理：通过 IaC 实现声明式、版本控制的模型和用例接入。
• 集成安全机制：内置 PII 检测和内容安全保护支持。
• 企业级可观测性：使用 Event Hub 和 Cosmos DB 实现集中式日志记录和实时使用分析。
• 灵活的网络架构：支持专用 spoke VNet 和集成企业 hub VNet 的部署模式。