个人中心
登出
中文简体
返回
登录后咨询在线客服
回到顶部

会议纪要 | AMD 数据中心和 AI 技术首映礼

avatar
Senorita Earnings 发表了文章 · 2023/06/15 02:53
要点:
1。AMD 宣布更新其第四代 EPYC 处理器系列,包括 640 多个实例,并计划在 2023 年底之前推出 200 个新实例。
2。第四代 AMD EPYC 处理器仍然是性能最高、能效最高的 AI CPU,为大多数 AI 工作负载提供最佳性能。
3.AMD 已与 AWS 合作推出了 EC2 M7a 实例的预览版,该实例使用 AMD 的第四代 “热那亚” EPYC 处理器,提供新功能和更高的性能。
4。AMD 推出了基于下一代 CDNA3 加速器架构 Instinct MI300X 的世界上最先进的通用人工智能加速器。
5。ROCm 软件生态系统可用于数据中心加速器,并提供与 PyTorch 2.0 集成的 “Day-0” 支持。
6。此外,AMD 还发布了强大的通信网络产品组合,包括 AMD Pensando DPU、AMD 超低延迟 NIC 和 AMD 自适应网卡。其中,DPU已部署在IBM Cloud、微软Azure和甲骨文计算基础设施等云合作伙伴中。
全文:
在 “数据中心和人工智能技术日” 活动中,AMD高管与来自AWS、Citadel、Hugging Face、Meta、微软Azure和PyTorch的行业领导者一起登台,展示了他们的技术合作伙伴关系,并将下一代高性能CPU和人工智能加速器解决方案推向市场。
一、为现代数据中心优化的计算基础架构
AMD 宣布对其第四代 EPYC 处理器系列进行了一系列更新:
1。 推进最佳数据中心 CPU
1)目前有 640 多个 EPYC 实例,到 2023 年底还有 200 个。
2)第四代 AMD EPYC 处理器(代号热那亚)
继续成为性能最高、能效最高的 AI CPU
当前,大多数人工智能工作负载都由CPU驱动,而热那亚是最好的人工智能CPU。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
3)AWS EC2 副总裁 Dave Brown 分享道:
自 2018 年以来,AMD 一直与 AWS 合作,为通用、计算优化、内存优化和高性能计算工作负载提供 100 多个基于 EPYC 处理器的实例。
2022年,AWS推出了特定于HPC的实例Amazon EC2 HPC6a,该实例在计算流体动力学等工作负载中的性能比x86实例高出65%。
客户:
DNT、Sprinklr和TrueCar受益于基于AMD的亚马逊EC2实例的成本和云利用率优化。
客户希望将新类型的应用程序引入 AWS,例如金融应用程序、应用程序服务器、视频转码和仿真建模。
当亚马逊将第四代 AMD EPYC 处理器的性能与 AWS Nitro 系统相结合时,他们正在推进云技术,让客户能够以更好的性能在更多 EC2 实例上做更多的事情。
 全新合作
已推出 EC2 m7a实例预览,预计将在第三季度全面上市;
EC2 M7a 实例预览版已经推出,预计将在第三季度全面上市。新实例使用了AMD的第四代 “热那亚” EPYC处理器。
EC2 M7a 实例提供 AVX3-512、VNNI 和 bFloat16 等新的处理器功能,并允许客户获得比 M6a 实例高出 50% 的计算性能,从而为 AWS 带来更广泛的工作负载。
4)活动之外,甲骨文宣布计划提供配备第四代AMD EPYC处理器的新甲骨文计算基础设施(OCI)E5实例。
2。 云原生计算
1)第四代 AMD EPYC 97X4 处理器(代号为 Bergamo)
每个插槽 128 个 Zen 4c 内核,为基于云的应用程序提供最大 vCPU 密度和行业领先的性能,以及领先的能效。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
    Meta 基础设施副总裁 Alexis Bjorlin 分享道:
Meta与AMD讨论了这些处理器对Instagram和WhatsApp等主流应用程序的高适用性。
与第三代 AMD EPYC 97x4 处理器相比,Meta 在各种工作负载下取得了令人印象深刻的性能改进,同时还提供了显著的 TCO 改进。
AMD 和 Meta 还讨论了如何优化 EPYC CPU 以满足 Meta 的能效和计算密度要求。
1)使用 AMD 3D V-Cache 技术的第四代 AMD EPYC 处理器
世界上性能最高的 x86 服务器 CPU,用于技术计算
微软 Azure HPC 和 AI 总经理 Nidhi Chappell 分享道:
微软宣布正式推出 Azure Hbv4 和 HX 实例
这些实例使用第四代 AMD EPYC 处理器和 AMD 3D V-Cache 技术来帮助客户加快上市时间和数字化流程
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
2。AMD 人工智能平台
AMD 宣布了一系列人工智能平台战略,为客户提供从云到边缘再到端点的硬件产品组合,并与行业软件进行深入合作,开发可扩展且无处不在的人工智能解决方案。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
1) 世界上最先进的通用 AI 加速器
   有关 AMD Instinct MI300 系列加速器的新细节:
AMD 推出了 AMD Instinct MI300X 加速器,这是世界上最先进的通用人工智能加速器。
它基于下一代 CDNA3 加速器架构,支持高达 192 GB 的 HBM3 内存,为通用人工智能工作负载的大型语言模型的训练和推断提供了必要的计算和内存效率。
借助 AMD Instinct MI300X 的大容量内存,客户现在可以在单个 MI300X 加速器上组装大型语言模型,例如 400 亿个参数的模型 Falcon-40。
MI300X 将从第三季度开始向主要客户提供样品。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
AMD 推出了 AMD Instinct 平台,该平台将 8 个 MI300X 加速器集成到行业标准设计中,为人工智能推理和训练提供了终极解决方案。
会议纪要 | AMD 数据中心和 AI 技术首映礼
AMD Instinct MI300A 是世界上第一个用于 HPC 和 AI 工作负载的 APU 加速器,目前可供客户试用。
会议纪要 | AMD 数据中心和 AI 技术首映礼
2) 将开放、久经考验且随时可用的人工智能软件平台推向市场。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
适用于数据中心加速器的 ROCm 软件生态系统。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
  PyTorch 创始人兼元副总裁 Soumith Chintala 分享道:
讨论了 AMD 和 PyTorch 基金会在 ROCM 软件堆栈上的合作。
在所有 AMD Instinct 加速器的 ROCM 5.4.2 版本中为 PyTorch 2.0 提供了 “Day-0” 支持。
这种集成使开发人员能够访问大量 PyTorch 驱动的 AI 模型,这些模型与 AMD 加速器兼容且随时可用。
  Hugging Face 首席执行官克莱门特·德兰格分享道:
数千款 Hugging Face 型号将在 AMD 平台上进行优化,包括 AMD Instinct 加速器、AMD 锐龙和 AMD EPYC 处理器、AMD Radeon GPU、Versal 和 Alveo 自适应处理器。
三、强大的云和企业通信网络产品组合
1)通信网络产品组合包括 AMD Pensando DPU、AMD 超低延迟 NIC 和 AMD 自适应网卡。
  AMD Pensando DPU 将强大的软件堆栈与零信任安全性和领先的可编程分组处理器相结合,创造了世界上最智能、最高性能的 DPU。
AMD Pensando DPU 已广泛部署在 IBM Cloud、微软 Azure 和甲骨文计算基础架构等云合作伙伴中。
在企业中,AMD Pensando DPU与DXC等领先的IT服务公司合作部署在HPE Aruba CX 10000智能交换机中,并作为VMware vSphere分布式服务引擎的一部分,以提高客户的应用性能。
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
会议纪要 | AMD 数据中心和 AI 技术首映礼
2)代号为 “Giglio” 的下一代 DPU 路线图
旨在提供比当前一代产品更强的性能和效率,预计将于2023年底推出。
3)AMD Pensando 硅内软件开发套件 (SSDK)
使客户能够快速开发或迁移服务以部署在 AMD Pensando P4 可编程 DPU 上,并与 AMD Pensando 平台上丰富的现有功能协同工作。
免责声明:社区由Moomoo Technologies Inc.提供,仅用于教育目的。 更多信息
2
3
+0
原文
举报
浏览 3.5万
评论
登录发表评论
    Another earnings season is here. What to expect this time?
    800粉丝
    14关注
    1269来访
    关注