CardClash_GenerativeAI_第四關_自助數位助理

目標

  • 類別: Game-Based Learning
  • 課名: AWS Card Clash – an Architecture Design Game
  • 關卡名稱(遊玩主題):CardClash_GenerativeAI_第四關_自助數位助理

在這一關中,玩家將實作一個具備對話功能的數位助理,能即時回應使用者的提問,並根據企業內部知識文件提供客製化答案。此任務採用 Retrieval Augmented Generation(RAG)架構,結合生成式 AI 與資料檢索技術,讓聊天機器人不僅具備對話能力,還能從私有資料中找出正確答案並加以回應

透過這一關的挑戰,玩家將掌握如何設計一套能夠「理解問題、查找資料、生成答案」的 AI 助理系統,進一步強化對 RAG 應用與生成式 AI 技術整合的實務能力。

第四關的架構圖雛形

架構應用場景

該架構使用檢索增強生成 (RAG) 和生成式 AI 創建數位助理,以提供豐富的、自動的、對話式客戶體驗。

卡牌功能說明

Service Cards:

介紹:一項全受管服務,透過單一 API 以及建置生成式 AI 應用程式所需的各種廣泛功能,搭配安全、隱私與負責任的 AI,提供來自領先 AI 公司的各種高效能基礎模型 (FM) 選擇,例如 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon。

功能:輕鬆嘗試各種頂級基礎模型,使用微調檢索增強生成等技術根據數據私下定制它們,並創建執行複雜業務任務的託管代理。

介紹:一項全受管功能,內建工作階段內容管理和來源歸因,可協助使用者實現從擷取到檢索和提示擴增功能的整個 RAG 工作流程,而無需建立資料來源的自訂整合和管理資料流程。

功能:可協助使用者將專有資訊整合到生成式 AI 應用程式中。知識庫會搜尋使用者的資料以找到最有用的資訊,然後用它來回答自然語言問題。

介紹:Amazon CloudFront 是內容交付網路 (CDN),可加速向最終使用者交付靜態和動態Web內容。

功能:運用可將 AWS 邊緣節點連線至 AWS 區域的 AWS 全球網路來交付內容。沿 AWS 全球網路移動網路流量可減少延遲,並改善應用程式的安全狀況。透過在全球多個邊緣節點快取檔案副本,來提高 Web 應用程式的可靠性和可用性。

介紹:一種全受管人工智慧 (AI) 服務,具有用於設計、建置、測試和部署 AI 聊天機器人和語音機器人至應用程式的進階自然語言模型。

功能:可以將其與基礎和大型語言模型整合,以使用企業知識庫中的資料來回答複雜的問題。建置持續的串流聊天功能,讓使用者能夠視需要暫停和重新啟動多回合對話。快速建置聊天機器人或語音機器人,並部署至行動裝置和其他聊天服務,從而減少多平台開發工作。

介紹:一種物件儲存服務,提供領先業界的可擴展性、資料可用性、安全性及效能。各種規模和各業界的數百萬家客戶可以存放、管理、分析和保護幾乎任何使用案例的任何資料量,如資料湖、雲端原生應用程式和行動應用程式。

功能:可透過 API 存取的高效、可擴充且安全的物件存儲。

Security Cards:

介紹:安全地管理身分以及對 AWS 服務和資源的存取。

功能:在關卡中可消耗一點體力打出,保護指定的我方服務卡不被對手佔領,全卡牌皆可使用。

介紹:借助 AWS WAF,使用者可以建立安全規則來控制機器人流量,並阻止常見的攻擊模式,如 SQL 隱碼攻擊或跨網站指令碼 (XSS)。

功能:在關卡中可消耗一點體力打出,保護指定的我方服務卡不被對手佔領,此關卡只有Amazon CloudFront可使用。

Others: 

介紹:透過使用者友善的 Web 介面進行高效率的 AWS 管理。

功能:可在關卡中獲得一點。

介紹:一項可協助使用者建模和設定 AWS 資源的服務,以便使用者可以花更少的時間管理這些資源,而花更多的時間專注於在 AWS 中執行的應用程式。

功能:使用者建立一個範本來描述所需的所有 AWS 資源(如 Amazon EC2 執行個體或 Amazon RDS DB 執行個體),Cloud Formation 會負責為使用者調配和設定這些資源。

最終架構圖樣貌

結論

在本關任務中,玩家成功建置了一個能夠即時回應使用者問題的數位助理,透過結合 RAG 架構與生成式 AI 模型,實現一個具備實用性與企業應用價值的智慧客服系統。

整體架構中,使用者透過 GenAI Chat UI 與 Amazon Lex 互動,Lex 會根據輸入內容判斷使用者意圖,並查詢對應的企業知識。Amazon Bedrock 提供語言模型服務,結合從 Amazon S3 儲存的文件中檢索出的資訊,由 AI 組合生成回覆內容。整合過的知識由 Knowledge Base 組織與串接,提升回應的相關性與專業性。整個對話流程經由 Amazon CloudFront 加速載入,提升使用者體驗。在安全性層面,IAM 控管系統中各服務的存取權限,AWS WAF 則保護應用系統免受惡意攻擊,確保資料安全與穩定運行。

透過這一關的實作,玩家深入體驗如何建置 RAG 架構的數位助理,學會將 AI 模型與企業資料結合,打造出能真正回應實際需求的生成式 AI 解決方案。

相關參考資料

  • 架構:使用 Amazon Lex 和 Amazon Bedrock 知識庫建立自助數位助理
  • Service Cards:
    • Amazon Bedrock:可選用多種 Foundation Models 的平台,無需自行部署模型,即可整合 AI 生成能力進入應用中。
    • Knowledge Base:提供 AI 查詢資料的管道,將企業內部文件與生成式 AI 串接起來,讓回答更貼近實際情境。
    • Amazon CloudFront:內容傳遞網路(CDN)服務,協助使用者快速載入網頁與應用內容,加速使用體驗。
    • Amazon Lex:立 AI 對話介面,分析使用者輸入意圖,進一步引導系統查詢與生成回答,是聊天助理的語音/文字大腦。
    • Amazon S3:雲端儲存服務,用來保存生成的圖片、題目與前端網頁內容,支援快速存取與管理。
  • Security Cards:
    • IAM:管理誰可以存取哪些資源,負責設定雲端系統的「通行證」。
    • AWS WAF:防火牆服務,阻擋惡意流量與攻擊,保護系統安全。
  • Others:
    • AWS Management Console:WS 的圖形化操作介面,讓你能在瀏覽器中快速建立與管理雲端服務。
    • AWS Cloud Formation:基礎架構即程式碼工具,可用來一鍵部署整套雲端資源,讓系統部署更快速一致。

如果想知道更多雲端新知,加入我們LINE@官方號

感謝您的填寫,將有專人與您聯繫