awslabs/generative-ai-cdk-constructs

AWS Generative AI CDK Constructs are sample implementations of AWS CDK for common generative AI patterns.

What it solves

AWS Generative AI CDK Constructs 提供一套高階、多服務抽象的 AWS Cloud Development Kit（CDK）函式庫。它透過提供良好架構、可重複使用的基礎設施模式，簡化了建置生成式 AI 解決方案的流程，減少開發者必須手動設定複雜 AWS 服務以執行 AI 工作負載的需求。

How it works

此函式庫透過提供「constructs」— 依據最佳實踐預設設定的多服務架構模式，擴充了 AWS CDK。這些 constructs 分為 L2（較低層級）與 L3（較高層級）：

  • L3 Constructs: 提供針對特定使用情境的完整模式，例如從 SageMaker JumpStart 或 Hugging Face 部署基礎模型、使用 Step Functions 設定 Bedrock 批次推論，或建立 CloudWatch 儀表板以監控 Bedrock。
  • L2 Constructs: 為特定 AI 相關的 AWS 服務提供簡化介面，包含 Amazon Bedrock、Amazon OpenSearch Serverless Vector Collections 與 Amazon S3 Vectors。

Who it’s for

使用 AWS Cloud Development Kit（CDK）在 AWS 基礎設施上建置與部署生成式 AI 應用的開發者與雲端架構師。

Highlights

  • 多語言支援: 提供 TypeScript、Python、Java、Go 與 .NET（NuGet）版本。
  • 基於模式的部署: 包含 SageMaker 模型部署與 Bedrock 資料自動化的即用模式。
  • Bedrock 整合: 專門的 constructs 用於管理 Amazon Bedrock 以及其相關的向量資料庫（OpenSearch Serverless）。
  • 良好架構: 預設設定依據 AWS 最佳實踐，確保基礎設施可預測且可重複部署。