🛠️ AI 工具更新
① 採用 NVIDIA Grace Blackwell 架構,單機最多 72 顆 GPU
② 提供 360 PFLOPS FP8 計算力與 13.4TB HBM3e 記憶體
③ 支援 28.8 Tbps EFAv4 網路與 GPUDirect RDMA 低延遲通訊
📈 AI 應用規模化
① 適用於 trillion-scale 模型、多專家模型與生成式 AI
② 單一 UltraServer 內部建立 NVLink domain,確保高速互聯
③ 搭配 Capacity Blocks for ML 可預約專屬 GPU 訓練資源
🔒 AI 安全與信任
① 結合 SageMaker Hyperpod 自動替換 GPU 節點
② 支援 EKS 拓撲感知排程與跨 UltraServer 擴展
③ 整合 FSx for Lustre 與 S3,支援高吞吐與大數據存取
🔗 原始連結:https://aws.amazon.com/tw/blogs/aws/new-amazon-ec2-p6e-gb200-ultraservers-powered-by-nvidia-grace-blackwell-gpus-for-the-highest-ai-performance/