CardClash_GenerativeAI_第一關_生成式 AI 模型訪問

目標

  • 類別: Game-Based Learning
  • 課名: AWS Card Clash – an Architecture Design Game
  • 關卡名稱(遊玩主題):CardClash_GenerativeAI_第一關_生成式 AI 模型訪問

在這一關中,玩家將設計並實作一個可串接生成式 AI 模型的雲端應用流程。核心任務是運用 AWS 雲端服務,建立從裝置發送 Prompt,到成功呼叫 AI 模型回傳回應的完整流程,確保整體系統能安全、穩定並高效地運作,滿足使用者需求。

完成 CardClash_GenerativeAI第一關後,玩家將能理解生成式AI模型的串接架構與資料流邏輯,並掌握雲端資源的調用方法,進而具備初步設計 AI 應用與整合雲端服務的能力

第一關的架構圖雛形

架構應用場景

該架構提供了多種高效能、大型深度學習模型供您選擇,以建立您需要的生成式 AI 應用程式。

卡牌功能說明

Service Cards:

介紹:一種全受管的服務,可讓開發人員輕鬆地建立、發佈、維護、監控和保護任何規模的 API。

功能:透過將應用程式安全地連接到後端服務來簡化 API 管理,負責處理有關接受和處理多達數十萬個並行 API 呼叫的所有工作,包括流量管理、CORS 支援、授權和存取控制、調節、監控和 API 版本管理。

介紹:一項全受管服務,透過單一 API 以及建置生成式 AI 應用程式所需的各種廣泛功能,搭配安全、隱私與負責任的 AI,提供來自領先 AI 公司的各種高效能基礎模型 (FM) 選擇,例如 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon。

功能:輕鬆嘗試各種頂級基礎模型,使用微調檢索增強生成等技術根據數據私下定制它們,並創建執行複雜業務任務的託管代理。

介紹:適用於 Web 和行動應用程式的身分平台。是一種使用者目錄、身分驗證伺服器,以及 OAuth 2.0 存取權杖和 AWS 憑證的授權服務。

功能:協助用戶在Web和行動應用程式中實作客戶身分和存取管理 (CIAM),快速、安全地將使用者身分驗證和存取控制新增至用戶的應用程式中。

介紹:基礎模型 (FM) 是基於大量資料集訓練的大型深度學習神經網路,這些神經網路改變了資料科學家處理機器學習 (ML) 的方式。資料科學家無需從頭開始開發人工智慧 (AI),而是使用基礎模型作為起點來開發機器學習模型,從而更快速、更經濟高效地為新應用程式提供支援。

功能:儘管基礎模型已經過預訓練,但其可以在推理過程期間持續從資料輸入或提示中學習。這意味著可以透過精心策劃的提示來形成全面的輸出。FM可以執行的任務包括語言處理、視覺理解、程式碼產生和以人為本的參與。

介紹:一種運算服務,可執行程式碼以回應事件並自動管理運算資源,使其成為將想法轉化為現代生產無伺服器應用程式最快捷的方式。

功能:無需配置即可運行程式碼,可根據事件自動擴展。

Security Cards:

介紹:安全地管理身分以及對 AWS 服務和資源的存取。

功能:在關卡中可消耗一點體力打出,保護指定的我方服務卡不被對手佔領,全卡牌皆可使用。

介紹:借助 AWS WAF,使用者可以建立安全規則來控制機器人流量,並阻止常見的攻擊模式,如 SQL 隱碼攻擊或跨網站指令碼 (XSS)。

功能:在關卡中可消耗一點體力打出,保護指定的我方服務卡不被對手佔領,此關卡只有Amazon API Gateway可使用。

其他 

介紹:透過命令列高效管理AWS資源。

功能:可在關卡中獲得兩點。

最終架構圖樣貌

結論

在這一關中,玩家首次踏入生成式 AI 的雲端應用設計世界,學會如何串接各項 AWS 服務,打造一條從使用者輸入 Prompt 到模型回傳結果的完整流程。

首先,Amazon API Gateway 負責接收裝置端的請求,建立與雲端的連結,作為前後端溝通的第一道門戶。接著,請求被交由 AWS Lambda 處理,這張卡牌能靈活轉換資料格式與邏輯,幫助請求順利傳遞至後端 AI 模型服務。

為了讓 AI 模型發揮作用,玩家透過 Amazon Bedrock 串接到Foundation Model,完成了文字摘要、圖片生成或虛擬助理等任務,體驗了生成式 AI 在實務上的應用潛力。

在安全性方面,Amazon Cognito 負責使用者驗證,確保資料只能由授權裝置進行傳遞;同時,IAMAWS WAF 兩張安全卡牌也在背後運作,分別負責存取控制與防禦惡意攻擊,守住整個系統的安全防線。

透過這一關的挑戰,玩家不僅熟悉了生成式 AI 的雲端串接流程,也實際操作了多項 AWS 服務卡,理解它們如何彼此協作、保障流程順利進行。

相關參考資料

  • 架構: Amazon Bedrock是什麼?
  • Service Cards:
    • Amazon API Gateway:接收來自裝置端的請求,是所有請求進入 AWS 系統的第一站。
    • Amazon Bedrock:可選用多種 Foundation Models 的平台,無需自行部署模型。
    • Amazon Cognito:負責用戶身分驗證,確保資料只能被授權用戶存取。
    • Foundation model:真正負責執行生成任務的 AI 模型,如文字摘要或圖片生成。
    • AWS lambda:事件一發生就會執行你設定好的程式,是流程中的自動化助手。
  • Security Cards:
    • IAM:管理誰可以存取哪些資源,負責設定雲端系統的「通行證」。
    • AWS WAF:防火牆服務,阻擋惡意流量與攻擊,保護系統安全。
  • Others:
    • AWS CLI:讓你可以用指令列操作 AWS 資源,適合進階使用者快速部署服務。

如果想知道更多雲端新知,加入我們LINE@官方號

感謝您的填寫,將有專人與您聯繫