Azure-Samples/ai-hub-gateway-solution-accelerator

何を解決するか

Citadel Governance Hub は、AIの展開を管理するための中央集権的で企業向けの「ランディングゾーン」を提供します。大規模な組織内でAIをスケーリングする際の厳格なセキュリティ、コンプライアンス、監視の維持という課題を解決します。各チームがAIモデルを孤立して展開するのではなく、このハブは一元的なゲートウェイとして機能し、実行時ポリシーの強制、コスト管理、すべてのAIワークロードにわたる一貫したセキュリティガードレールの確保を実現します。

動作方法

このプロジェクトは、中央のガバナンス層（ハブ）が実行時コントロールプレーンを管理し、個々のビジネスユニットが独自のエージェント実行プレーン（スパイク）を運用する、ハブアンドスポークアーキテクチャを実装しています。

主なコンポーネントは以下の通りです：

• 統合AIゲートウェイ：Azure API Management で駆動され、ルーティング、トークンレート制限、およびアイデンティティ検証を処理します。
• 契約駆動型ガバナンス：Infrastructure-as-Code（Bicep/Terraform）を使用して、「供給側」（LLM容量用のバックエンド契約）と「需要側」（ユースケース固有ポリシー用のアクセス契約）を管理します。
• セキュリティレイヤー：プロンプトシールド用に Azure Content Safety を統合し、PII検出と匿名化には Azure Language Service を使用します。
• 監視スタック：Log Analytics、Application Insights、Event Hub、Cosmos DB を組み合わせ、使用データをほぼリアルタイムでストリーミングおよび分析します。

対象ユーザー

Azure上で大規模にAIアプリケーションやエージェントのガバナンスされ、安全で再現可能な基盤を展開したい、エンタープライズプラットフォームチームおよびAIアーキテクト向けです。

主な特徴

• 宣言型ガバナンス：モデルアクセスやポリシーの変更は、手動のポータル設定ではなく、.bicepparam ファイルによるバージョン管理で行われます。
• マルチプロバイダー対応：Microsoft Foundry、Azure OpenAI、および外部のOpenAI互換プロバイダーなど、さまざまなバックエンドへのルーティングをサポートします。
• 自動ガードレール：PII検出、コンテンツフィルタリング、および階層的な認証（APIキー + JWT）の組み込みサポート。
• 統合レジストリ：Azure API Center を使用して、利用可能なAIツール、エージェント、サービスの検出を実現します。