Azure-Samples/ai-hub-gateway-solution-accelerator

何を解決するか

Citadel Governance Hub は、AIの展開用に中央集権的で企業向けの「ランディングゾーン」を提供します。大規模な組織内でAIイノベーションをスケーリングする際の課題を解決し、厳格なセキュリティ、コンプライアンス、監視を維持します。各チームがAIサービスを孤立して展開するのではなく、このハブが統制されたゲートウェイとして機能し、一貫したポリシーの適用、コスト管理、すべてのAI利用における安全ガードレールの確保を実現します。

動作方法

このプロジェクトは、中央制御プレーン（Governance Hub）がAIポリシーの実行を管理するハブアンドスポークアーキテクチャを実装しています。Azure API Management を統合AIゲートウェイとして使用し、リクエストをさまざまなLLMバックエンドにルーティングします。

ガバナンスは、インフラストラクチャとしてコード（Bicep/Terraform）を使用する「契約駆動型」アプローチで管理され、以下の3種類の契約タイプがあります：

• バックエンド契約：利用可能なLLMバックエンドとモデル（例：Azure OpenAI、Amazon Bedrock）を定義します。
• アクセス契約：特定のモデルにアクセスできるエージェントやビジネスユニット、およびそれらに適用されるポリシー（PII検出やコンテンツセーフティなど）を定義します。
• 公開契約：ゲートウェイを通じてAIツール（MCP）やエージェント（A2A）の公開を許可します。

対象ユーザー

複数のビジネスユニットと多様なAIワークロードをサポートする、Azure上に安全でスケーラブルかつ監視可能なAIインフラストラクチャを展開したいエンタープライズプラットフォームチームおよびAIアーキテクト。

主な特徴

• 統合AIゲートウェイ：Azure API Management を使用した中央集権的なルーティング、レート制限、およびアイデンティティ検証。
• 契約駆動型ガバナンス：IaCを介して宣言的でバージョン管理されたモデルおよびユースケースのオンボーディング。
• 統合されたセーフティ：PII検出およびコンテンツセーフティ保護の組み込みサポート。
• エンタープライズ監視：Event Hub と Cosmos DB を使用した中央集権的なログ記録とリアルタイムの使用状況分析。
• 柔軟なネットワーキング：専用スポークVNetおよび統合エンタープライズハブVNetの両方のデプロイパターンをサポート。