目標

• 類別: Game-Based Learning
• 課名: AWS Card Clash – an Architecture Design Game
• 關卡名稱(遊玩主題):CardClash_GenerativeAI_第十四關_生成式AI內容審核員

在這一關中，玩家將學習如何打造一個具備內容審核機制的生成式AI系統，透過整合Amazon SageMaker、Amazon Rekognition、Amazon Comprehend等服務，此系統能對生成內容進行圖像與文字的毒性偵測與過濾，確保結果符合安全、正面與合規的標準。藉由實作完整的審查流程，玩家將深入理解如何提升生成式AI的可信度與實務應用價值。

第十四關的架構圖雛形

架構應用場景

該架構可以調節生成的AI內容，以提供安全和積極的用戶體驗。

卡牌功能說明

Service Cards:

• Amazon API Gateway

介紹:一種全受管的服務，可讓開發人員輕鬆地建立、發佈、維護、監控和保護任何規模的 API。

功能:透過將應用程式安全地連接到後端服務來簡化 API 管理，負責處理有關接受和處理多達數十萬個並行 API 呼叫的所有工作，包括流量管理、CORS 支援、授權和存取控制、調節、監控和 API 版本管理。

• Amazon CloudFront

介紹:Amazon CloudFront 是內容交付網路 (CDN)，可加速向最終使用者交付靜態和動態Web內容。

功能:運用可將 AWS 邊緣節點連線至 AWS 區域的 AWS 全球網路來交付內容。沿 AWS 全球網路移動網路流量可減少延遲，並改善應用程式的安全狀況。透過在全球多個邊緣節點快取檔案副本，來提高 Web 應用程式的可靠性和可用性。

• Amazon Comprehend

介紹:Amazon Comprehend 是一項自然語言處理 (NLP) 服務，使用機器學習來尋找文字中的意義和洞見。

功能:可識別文字的語言、擷取關鍵片語、場所、人、品牌或事件、理解關於產品或服務的情緒，以及識別文件庫的主題。這類文字的來源可以是網頁、社交媒體饋送、電子郵件或文章。也可以輸入一組文字文件，以識別最能代表該集合資訊的主題 (或詞組)。Amazon Comprehend 的輸出可用於了解客戶回饋、透過搜尋篩選來提供更好的搜尋體驗，以及使用主題分類文件。

• Foundation model

介紹:基礎模型 (FM) 是基於大量資料集訓練的大型深度學習神經網路，這些神經網路改變了資料科學家處理機器學習 (ML) 的方式。資料科學家無需從頭開始開發人工智慧 (AI)，而是使用基礎模型作為起點來開發機器學習模型，從而更快速、更經濟高效地為新應用程式提供支援。

功能:儘管基礎模型已經過預訓練，但其可以在推理過程期間持續從資料輸入或提示中學習。這意味著可以透過精心策劃的提示來形成全面的輸出。FM可以執行的任務包括語言處理、視覺理解、程式碼產生和以人為本的參與。

• AWS lambda

介紹:一種運算服務，可執行程式碼以回應事件並自動管理運算資源，使其成為將想法轉化為現代生產無伺服器應用程式最快捷的方式。

功能:無需配置即可運行程式碼，可根據事件自動擴展。

• Amazon Rekognition

介紹:Amazon Rekognition 是可讓使用者輕鬆將強大的視覺分析新增到應用程式的服務。Rekognition Image 可讓使用者建立功能強大的應用程式，用於搜尋、驗證和組織數百萬個影像。Rekognition Video 可從存放或即時串流的影片擷取動態內容，以協助您進行分析。

功能:提供預先訓練和可自訂的電腦視覺 (CV) 功能，可從使用者的影像和影片中擷取資訊和洞察。

• Amazon S3

介紹:一種物件儲存服務，提供領先業界的可擴展性、資料可用性、安全性及效能。各種規模和各業界的數百萬家客戶可以存放、管理、分析和保護幾乎任何使用案例的任何資料量，如資料湖、雲端原生應用程式和行動應用程式。

功能:可透過 API 存取的高效、可擴充且安全的物件存儲。

• Amazon SageMaker

介紹:Amazon SageMaker 結合廣泛採用的 AWS 機器學習 (ML) 和分析功能，提供分析和 AI 的整合式體驗，並統一存取您的所有資料。這些服務仍可透過 AWS 管理主控台作為獨立功能提供，從而根據使用案例提供靈活性。我們將於 2025 年透過更多服務來增強 SageMaker，以統一分析和 AI 方面的體驗。

功能:SageMaker 整合了 SageMaker Unified Studio (預覽版)、SageMaker 資料與 AI 管控以及 SageMaker Lakehouse 等一系列全面的 AWS AI 和分析服務。資料科學家得以快速、輕鬆地建立訓練模型，可以直接部署到生產就緒託管環境。

Security Cards:

• IAM

介紹:安全地管理身分以及對 AWS 服務和資源的存取。

功能:在關卡中可消耗一點體力打出，保護指定的我方服務卡不被對手佔領，全卡牌皆可使用。

• AWS WAF

介紹:借助 AWS WAF，使用者可以建立安全規則來控制機器人流量，並阻止常見的攻擊模式，如 SQL 隱碼攻擊或跨網站指令碼 (XSS)。

功能:在關卡中可消耗一點體力打出，保護指定的我方服務卡不被對手佔領，此關卡只有Amazon API Gateway和Amazon CloudFront可使用。

其他 

• AWS CLI

介紹:透過命令列高效管理AWS資源。

功能:可在關卡中獲得兩點。

• AWS Management Console

介紹:透過使用者友善的 Web 介面進行高效率的 AWS 管理。

功能:可在關卡中獲得一點。

• AWS Cloud Formation

介紹:一項可協助使用者建模和設定 AWS 資源的服務，以便使用者可以花更少的時間管理這些資源，而花更多的時間專注於在 AWS 中執行的應用程式

功能:使用者建立一個範本來描述所需的所有 AWS 資源（如 Amazon EC2 執行個體或 Amazon RDS DB 執行個體），CloudFormation 會負責為使用者調配和設定這些資源。關卡中可以加三分。

• Amazon Textract

介紹:一種機器學習 (ML) 服務，可自動從掃描文件中擷取文字、手寫內容、配置元素與資料。

功能:這項服務不僅可實現簡單的光學字元辨識 (OCR)，還可以識別、理解及擷取文件的特定資料。在本關卡無作用。

最終架構圖樣貌

結論

在本關中，玩家成功部署了一套內容審核系統，專為生成式AI圖像應用設計，能夠即時偵測不當內容並進行過濾，建立一個更安全、積極的使用者體驗。

整體流程由使用者透過Web App發送圖像生成請求，API Gateway接收後觸發Lambda函數，串接多項 AWS AI服務：Amazon Rekognition檢查圖片是否含有不當內容，Amazon Comprehend偵測提示詞中的有害語句，並由Amazon SageMaker呼叫事先訓練好的Stable Diffusion模型來生成圖片。生成的圖片會經過再次審核後才回傳給前端使用者，確保內容品質與合規性。

系統中的靜態網頁內容與圖像傳遞透過Amazon CloudFront加速，使用者資料與權限控管則由IAM和AWS WAF保護，防止未經授權存取與潛在攻擊。這套架構展示了如何透過多項AWS工具協同運作，打造一個安全可信、能自動過濾生成內容的AI應用平台。

相關參考資料

• 架構:使用Amazon AI內容審核服務的安全影像產生和傳播模型
• Service Cards:
  • Amazon API Gateway:接收前端Web App的請求，並觸發後端Lambda函數進行處理。
  • Amazon CloudFront:加速靜態網站的傳遞，提升使用者存取Web App的速度與體驗。
  • Amazon Comprehend:執行文字的毒性分析，辨識不當或敏感內容。
  • Foundation model:提供大型語言模型（LLM）作為生成圖片時的基礎模型。
  • AWS lambda處理 API 呼叫，統籌觸發內容檢測與圖片生成服務。
  • Amazon S3:儲存網站內容與生成圖片資源，作為資料來源與輸出儲存區。
  • Amazon SageMaker:建立與部署經調整的模型端點，用於執行圖片生成與內容審查推論。
• Security Cards:
  • IAM:設定使用者角色與權限，確保只有授權人員能存取模型與審核服務。
  • AWS WAF:部署於Web App前方作為防火牆，阻擋惡意請求與常見攻擊行為。
• Others:
  • AWS CLI:指令列工具，協助用戶快速操作與查詢AWS資源。
  • AWS Management Console:圖形化操作介面，讓使用者可以用網頁方式建立並管理AWS資源。
  • AWS Cloud Formation:基礎架構即程式碼服務，可用來一次性建立完整雲端架構。
  • Amazon Textract:於自動擷取文件中的文字與資料，常用於 OCR 與表單數據抽取。