aws-solutions/generative-ai-application-builder-on-aws

Generative AI Application Builder on AWS facilitates the development, rapid experimentation, and deployment of generative artificial intelligence (AI) applications without requiring deep experience in AI. The solution includes integrations with Amazon Bedrock and its included LLMs, such as Amazon Titan, and pre-built connectors for 3rd-party LLMs.

What it solves

このプロジェクトは、AWS 上でカスタマイズ可能な生成 AI ユースケースを迅速-デプロイ、実験、および本番環境へ導入-することが可能になるウェブベースの管理ダッシュボードを提供します。新しい AI アプリケーションごとに手動でインフラストラクチャの設定を行う必要がなくなり、異なる大規模言語モデル (LLM) を比較し、最適化された後に本番環境のアプリケーションに統合-できることが可能になります。

How it works

解決策は、中央のデプロイメントダッシュボードと個別のユースケース・スタックで構成されています：

  • ‖‖ Deployment Dashboard: ウェブ UI (S3/CloudFront でホスト) が、管理者が AI ユースケースを構成し、起動するためのものです。AWS Lambda と CloudFormation を使用して、必要な AWS リソースを自動的に作成します。

  • ‖‖ Text Use Cases: LangChain を使用してリクエストをオーケストレーションします。チャットボット形式のインターフェースを実装しています。Amazon Kendra や Knowledge Bases for Amazon Bedrock を使用して RAG (Retrieval-Augmented Generation) 機能を実現し、プロンプトを Amazon Bedrock や Amazon SageMaker AI にホストされている LLM に送信する前に、エンタープライズ・データを照会索

  • ‖‖ Agent Use Cases: Amazon Bedrock Agents に接続するインターフェースをデプロイします。特定のユーザーの意図を達成するために使用します。

  • ‖‖ Infrastructure: Amazon API Gateway (WebSockets 用のストリーミング) 、 Amazon Cognito での認証、 Amazon DynamoDB でのセッション管理および構成管理を行います。

Who it’s for

初心者から経験豊富なユーザーまで、DevOps エンジニア、管理者、およびビジネスユーザーを含みます。AWS エコシステム内で生成 AI アプリケーションを迅速にプロトタイプ化し、スケールアップさせることを目的としています。

Highlights

  • ‖‖ Rapid Experimentation: 複数の LLM 組み合わせをデプロイし、Amazon CloudWatch でメトリクスを追跡可能です。

  • ‖‖ Enterprise Ready: 実世界のビジネス問題に対して、企業固有のデータを統合-できるサポートを提供します。

  • ‖‖ Flexible LLM Providers: Amazon Bedrock と Amazon SageMaker AI の両方に統合-できます。

  • ‖‖ Modular Architecture: 擴/extensibility が容易な、入れ子になった CloudFormation スタックで構築されています。

  • ‖‖ RAG Support: エンタープライズ知識ベースを照会するための組み込みの統合-機能があります。