會議記錄 | AMD 數據中心與人工智能技術首映

1.AMD 宣布對第四代 EPYC 處理器系列進行更新，包括 640 多個執行個體，並計畫在 2023 年底前推出 200 個新執行個體。

2.第四代 AMD EPYC 處理器仍然是效能最高、最省電的人工智慧 CPU，為大多數人工智慧工作負載提供最佳效能。

3.AMD 與 AWS 合作推出 EC2 M7a 執行個體的預覽版，該執行個體使用 AMD 的第四代「熱那亞」EPYC 處理器，提供新功能和改進的效能。

4.AMD 推出了基於下一代 CDNA3 加速器架構-本能 MI300X 的世界上最先進的通用 AI 加速器。

5.RoCM 軟體生態系統可用於資料中心加速器，並提供與 PyTorch 2.0 整合的「日」支援。

6.此外，AMD 還發布了功能強大的通信網絡產品組合，包括 AMD 潘桑多 DPU，AMD 超低延遲網卡和 AMD 自適應網卡。其中，DPU 已經部署在雲合作夥伴，如 IBM 雲，微軟 Azure 和甲骨文計算基礎設施。

在「資料中心與人工智慧技術日」活動中，AMD 高階主管與 AWS、城堡、擁抱臉部、Meta、微軟 Azure 和 PyTorch 的業界領導者一同踏上舞台，展示他們的技術合作夥伴關係，並將新一代高效能 CPU 和人工智慧加速器解決方案推向市場。

AMD 宣布對其第四代 EPYC 處理器系列產品進行一系列更新：

1）目前共有 640 個以上的 EPYC 執行個體，到 2023 年底前還有 200 個額外的執行個體。

2）第四代 AMD EPYC 處理器（代號熱那亞）

繼續成為效能最高、省電效率最高的人工智慧 CPU

目前，大多數人工智能工作負載都是由 CPU 驅動的，熱那亞是最好的人工智能 CPU。

3）AWS EC2 副總裁戴夫·布朗共享：

AMD 自 2018 年開始與 AWS 合作，提供 100 多個以 EPYC 處理器為基礎的執行個體，用於一般用途、運算最佳化、記憶體最佳化和高效能運算工作負載。

在 2022 年，AWS 推出了特定於 HPC 的執行個體 Amazon EC2 HPC6a，在運算流體動力學等工作負載中，效能優於 x86 執行個體 65%。

DNT、Sprinklr 和 TrueCAR 已受益於基於 AMD 的亞馬遜 EC2 執行個體的成本和雲端利用率優化。

客戶希望將新類型的應用程式帶到 AWS，例如金融應用程式、應用程式伺服器、影片轉碼和模擬建模。

當 Amazon 將第四代 AMD EPYC 處理器的效能與 AWS Nitro 系統結合在一起時，他們正在推進雲端技術，讓客戶在更多 EC2 執行個體上以更好的效能完成更多工作。

EC2 M7a 執行個體預覽版已啟動，預計在第 3 季完整可用。新的執行個體使用 AMD 的第四代「熱那亞」EPYC 處理器。

EC2 M7a 執行個體提供新的處理器功能，例如 AVX3-512、VNNI 和 BFloat16，可讓客戶獲得比 M6a 執行個體高出 50% 的運算效能，為 AWS 帶來更廣泛的工作負載。

4）在活動之外，甲骨文宣布計劃提供具有第四代 AMD EPYC 處理器的新甲骨文計算基礎設施（OCI）E5 實例。

1）第四代 AMD EPYC 97X4 處理器 (代號貝加莫)

每個插槽有 128 個 Zen 4c 核心，為雲端應用程式提供最大的 vCPU 密度和領先業界的效能，以及領先的能源效率。

元與 AMD 討論了這些處理器對其主流應用程序（如 Instagram 和 WhatsApp）的高適用性。

與第三代 AMD EPYC 97x4 處理器相比，Meta 在各種工作負載中看到了令人印象深刻的效能提升，同時也提供了顯著的總體擁有成本改進。

AMD 和 Meta 也討論瞭如何針對 Meta 的能源效率和運算密度要求最佳化 EPYC CPU。

全球效能最高的 x86 伺服器 CPU，適用於技術運算

尼迪·查佩爾，Azure HPC 和 AI 在微軟的總經理共享：

微軟宣布 Azure HBv4 和 HX 實例的正式可用性

這些執行個體使用第四代 AMD EPYC 處理器和 AMD 3D V-Cache 技術，協助客戶加速上市時間和數位化流程

AMD 宣布了一系列人工智慧平台策略，為客戶提供從雲端到邊緣到端點的硬體產品組合，並與業界軟體深入合作，開發可擴充且無所不在的 AI 解決方案。

   關於 AMD 本能 MI300 系列加速器的新細節：

AMD 推出了 AMD 本能 MI300X 加速器，這是世界上最先進的通用人工智能加速器。

基於新一代 CDNA3 加速器架構，它支援高達 192GB 的 HBM3 記憶體，為通用 AI 工作負載的大型語言模型訓練和推論提供必要的運算和記憶體效率。

有了 AMD 本能 MI300X 的大容量記憶體，客戶現在可以在單一 MI300X 加速器上組裝大型語言模型，例如 40 億個參數的獵鷹 40。

MI300X 將提供給主要客戶從第三季度取樣。

AMD 推出 AMD 本能平台，該平台將 8 個 MI300X 加速器整合到業界標準設計中，為人工智慧推論和訓練提供終極解決方案。

AMD 本能 MI300A 是全球首款適用於高效能運算和人工智慧工作負載的 APU 加速器，目前可供客戶取樣。

討論 AMD 與 PyTorch 基金會在 ROCM 軟體堆疊上的合作。

在所有 AMD 本能加速器的 ROCM 5.4.2 版本中提供了對 PyTorch 2.0 的「天 0」支持。

這項整合可讓開發人員存取大量與 AMD 加速器相容且容易使用的 Python 驅動型 AI 模型。

成千上萬的擁抱臉型號將在 AMD 平台上進行優化，包括 AMD 本能加速器，AMD Ryzen 和 AMD EPYC 處理器，AMD Radeon GPU，范薩爾和天花自適應處理器。

  AMD Pensando DPU 結合了強大的軟體堆疊、零信任安全性和領先的可程式化封包處理器，打造出全球最智慧、最高效能的 DPU。

AMD 支持 DPU 已廣泛部署在雲合作夥伴，如 IBM 雲計算, 微軟 Azure, 和甲骨文計算基礎設施.

在企業中，AMD Pensando DPU 部署在 HPE Aruba CX 10000 智慧型交換器中，與 DXC 等領先的 IT 服務公司合作，並作為 VMware vSphere 分散式服務引擎的一部分，以加速客戶的應用程式效能。

旨在提供比當前一代產品更強的性能和效率，並預計將於 2023 年底推出。

使客戶能夠快速開發或遷移服務，以便在 AMD Pensando P4 可程式化 DPU 上進行部署，並與 AMD 平台上的豐富現有功能協調工作。