aws-samples/amazon-bedrock-serverless-prompt-chaining
Build complex, serverless, and highly scalable generative AI applications with prompt chaining.
解決的問題
本專案提供一個框架與範例,用於使用 提示鏈(prompt chaining) 建構複雜的生成式 AI 應用程式。它解決了單一大型語言模型(LLM)提示無法處理的複雜任務問題,透過將這些任務分解為一系列可管理的子任務,並依照特定順序或預定規則執行,從而實現高效處理。
工作原理
本專案展示如何使用兩種無伺服器 AWS 服務來實現提示鏈:
- AWS Step Functions:透過狀態機編排工作流程,支援循環、平行任務、條件判斷,並可與超過 220 個 AWS 服務及自訂 Lambda 函數整合。
- Amazon Bedrock Flows:專為生成式 AI 工作流程設計的工具,支援陣列迭代、呼叫 Bedrock 代理、從 Bedrock 知識庫中檢索資料。
兩種方法均支援提示模板化(注入使用者輸入)、順序鏈式呼叫(將一個提示的輸出傳遞給下一個提示)、平行鏈式呼叫(同時執行多個提示並合併結果)等技術。
適用對象
希望在 AWS 上建構可擴展的無伺服器 AI 應用程式的開發者與架構師,特別是希望從單一提示互動躍升至複雜多步驟 AI 工作流程的使用者。
亮點
- 無伺服器架構:部署與擴展無需管理基礎設施。
- 彈性編排能力:支援順序、平行與基於映射的鏈式結構。
- 語言邏輯支援:包含條件分支與人工介入(人機在環)輸入功能。
- 實用範例:提供多種使用情境的範本,例如撰寫部落格文章、規劃旅行、構思電影點子。
相關
- 專案
- 專案
- 專案
- 專案
- 專案