个人中心
登出
中文简体
返回
登录后咨询在线客服
回到顶部
CES 2024电子界春晚: AI PC的新风向标在哪?
浏览 22.4万 内容 50

与H100相比,最强大的中国专用人工智能芯片H20的性能如何?

几乎可以肯定,所有三款人工智能芯片都是H100的 “去势化” 或 “缩小” 版本,反映了为遵守出口管制而做出的调整。其中,H20 AI芯片拥有96GB的HBM3存储空间,内存带宽高达4.0 TB/s,高于H100,但综合计算能力仅为296万亿次浮点,性能密度为2.9,远不及H100。

就具体的性能指标而言,H20 AI芯片是H100的一种调整版本。根据测量机构的说法,与H100相比,H20的总算术能力降低了约80%。这一变化反映了该芯片为适应与美国出口管制政策相关的要求而进行的性能调整。尽管如此,H20在特定情况下仍然具有性能优势。例如,通过将推理所需的芯片数量从两个减少到一个,然后使用 8 位量化,LLAMA 70B 模型可以在单个 H20 上高效运行,而不是需要两个 H100。这表明 H20 仍然可以在某些应用场景中提供有效的性能。

从传统的算术角度来看,H20是对H100的降级,但在LLM推理的这一方面,H20实际上将比H100快20%以上,理由是H20在某些方面与定于2024年发布的H200相似。请注意,H200是H100的继任者,专注于用于复杂的人工智能和高性能计算工作负载的超高性能芯片。因此,NVIDIA的H20 AI芯片是针对美国对中国的出口管制政策而推出的,其性能与H100相比有所下降,但在某些应用场景中仍保持一定水平的效率和实用性。

NVIDIA和其他大型科技巨头计划在本周的拉斯维加斯消费电子展(CES)上公布他们的最新进展。预计该公司将在活动中展示其几款最新显卡,包括RTX 4080 Super、4070 Ti Super和4070 Super。分析人士普遍预计,NVIDIA将倾向于保持其在全球游戏硬件领域的绝对领导地位。 $英伟达(NVDA.US)$ $美国超微公司(AMD.US)$
免责声明:社区由Moomoo Technologies Inc.提供,仅用于教育目的。 更多信息
3
+0
2
原文
举报
浏览 1.6万
评论
登录发表评论
991粉丝
62关注
2707来访
关注