awslabs/generative-ai-cdk-constructs

AWS Generative AI CDK Constructs are sample implementations of AWS CDK for common generative AI patterns.

What it solves

AWS Generative AI CDK Constructs 提供一套高层次、多服务抽象的 AWS Cloud Development Kit(CDK)库。它通过提供良好架构、可重复使用的基础设施模式,简化了构建生成式 AI 解决方案的过程,减少开发者手动配置复杂 AWS 服务以运行 AI 工作负载的需求。

How it works

该库通过提供“constructs”——基于最佳实践的默认配置的预定义架构模式,扩展了 AWS CDK。这些 construct 分为 L2(低层)和 L3(高层):

  • L3 Constructs: 为特定用例提供完整模式,例如从 SageMaker JumpStart 或 Hugging Face 部署基础模型、通过 Step Functions 设置 Bedrock 批量推理,或创建 CloudWatch 仪表板用于 Bedrock 监控。
  • L2 Constructs: 为特定 AI 相关的 AWS 服务提供简化接口,包括 Amazon Bedrock、Amazon OpenSearch Serverless Vector Collections 和 Amazon S3 Vectors。

Who it’s for

使用 AWS Cloud Development Kit(CDK)在 AWS 基础设施上构建和部署生成式 AI 应用的开发者和云架构师。

Highlights

  • 多语言支持: 提供 TypeScript、Python、Java、Go 和 .NET(NuGet)版本。
  • 基于模式的部署: 包含 SageMaker 模型部署和 Bedrock 数据自动化的即用模式。
  • Bedrock 集成: 专用 constructs 用于管理 Amazon Bedrock 及其关联的向量数据库(OpenSearch Serverless)。
  • 良好架构: 默认配置基于 AWS 最佳实践,确保基础设施可预测且可重复部署。