aws-solutions/generative-ai-application-builder-on-aws

Generative AI Application Builder on AWS facilitates the development, rapid experimentation, and deployment of generative artificial intelligence (AI) applications without requiring deep experience in AI. The solution includes integrations with Amazon Bedrock and its included LLMs, such as Amazon Titan, and pre-built connectors for 3rd-party LLMs.

What it solves

이 프로젝트는 사용자가 AWS에서 커스터마이징 가능한 생성형 AI 유스케이스를 신속하게 배포, 실험 및 프로덕션 환경으로 전환할 수 있는 웹 기반 관리 대시보드를 제공합니다. 새로운 AI 애플리케이션을 위한 수동 인프라 설정을 위한 필요성을 제거하여, 사용자가 서로 다른 대규모 언어 모델(LLM)을 비교하고 최적화된 후 프로덕션 애플리케이션에 통합할 수 있게 합니다.

How it works

솔루션은 중앙 집중식 Deployment Dashboard와 개별 Use Case 스택으로 구성됩니다:

Deployment Dashboard: 웹 UI (S3/CloudFront 호스팅)를 통해 관리자가 AI 유스케이스를 구성하고 실행할 수 있습니다. AWS Lambda와 CloudFormation을 사용하여 필요한 AWS 리소스를 자동화하여 생성합니다.
Text Use Cases: LangChain을 사용하여 요청을 오케스트레이션합니다. 챗봇 스타일의 인터페이스를 구현합니다. Amazon Kendra 또는 Knowledge Bases for Amazon Bedrock을 사용하여 RAG (Retrieval-Augmented Generation) 기능을 지원하며, Amazon Bedrock 또는 Amazon SageMaker AI에 호스팅-된 LLM에 프롬프트를 보내기 전에 기업용 데이터를 쿼리합니다.
Agent Use Cases: 특정 사용자 의도를 충족시키기 위해 Amazon Bedrock Agents에 연결되는 인터페이스를를 데ployments
Infrastructure: Amazon API Gateway (WebSockets를 통한 스트리밍), Amazon Cognito를 통한 인증, Amazon DynamoDB를 통한 세션 및 구성 관리 기능을 제공합니다.

Who it’s for

이것은 DevOps 엔지니어, 관리자 및 비즈니스 사용자를 포함하여 AWS 생태계 내에서 생성형 AI 애플리케이션을 프로토타입 제작하고 확장하는 것을 원하는 초보자부터 숙련된 사용자까지 설계되었습니다.

Highlights

Agentic AI: 커스터마이징 가능한 Generative AI 유스케이스를 ✅
Rapid Experimentation: 여러 LLM 조합을 배포 및 비교할 수 있으며, Amazon CloudWatch를 통해 메트릭을 추적할 수 있습니다.
Enterprise Ready: 기업용 데이터 통합을 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 위한 cakes

ext

_thought: 32 tokens.}```json} [ {