awslabs/generative-ai-cdk-constructs

AWS Generative AI CDK Constructs are sample implementations of AWS CDK for common generative AI patterns.

What it solves

AWS Generative AI CDK Constructs는 AWS Cloud Development Kit(CDK)를 위한 고수준·멀티서비스 추상화 라이브러리입니다. 코드 내에 잘 설계되고 재사용 가능한 인프라 패턴을 제공함으로써 생성형 AI 솔루션 구축 과정을 단순화하고, 개발자가 AI 워크로드를 위해 복잡한 AWS 서비스를 수동으로 구성해야 하는 부담을 줄여줍니다.

How it works

이 라이브러리는 "constructs"—베스트 프랙티스 기반 기본 설정을 갖춘 사전 정의 아키텍처 패턴—을 제공하여 AWS CDK를 확장합니다. construct는 L2(하위 레벨)와 L3(상위 레벨)로 구분됩니다:

  • L3 Constructs: SageMaker JumpStart 또는 Hugging Face에서 파운데이션 모델을 배포하거나, Step Functions을 통해 Bedrock 배치 추론을 설정하거나, Bedrock 모니터링용 CloudWatch 대시보드를 만드는 등 특정 사용 사례에 대한 완전한 패턴을 제공합니다.
  • L2 Constructs: Amazon Bedrock, Amazon OpenSearch Serverless Vector Collections, Amazon S3 Vectors 등 AI 관련 AWS 서비스에 대한 간소화된 인터페이스를 제공합니다.

Who it’s for

AWS Cloud Development Kit(CDK)를 사용해 AWS 인프라 위에 생성형 AI 애플리케이션을 구축·배포하는 개발자와 클라우드 아키텍트 대상입니다.

Highlights

  • 다중 언어 지원: TypeScript, Python, Java, Go, .NET(NuGet)에서 사용 가능.
  • 패턴 기반 배포: SageMaker 모델 배포와 Bedrock 데이터 자동화를 위한 즉시 사용 가능한 패턴을 포함.
  • Bedrock 통합: Amazon Bedrock 및 연관된 벡터 데이터베이스(OpenSearch Serverless)를 관리하기 위한 특화된 construct 제공.
  • 잘 설계된 아키텍처: 기본 설정은 AWS 베스트 프랙티스를 기반으로 하여 예측 가능하고 재현 가능한 인프라를 보장합니다.