AMD和英偉達的人工智慧半導體大賽，冠軍將屬於哪一方？

moomooニュース米国株發表了文章 · 2023/11/14 14:53

本文部分使用了自動翻譯

$英偉達 (NVDA.US)$將來在深度學習和OpenAI的GPT-4等大規模語言模型（LLM）方面實現飛躍進步的可能性很高，它發布了下一代AI超級計算機晶片，可能起到重要作用。

關鍵產品是基於英偉達「Hopper」架構的HGX H200 GPU，它是廣受好評的H100 GPU的後繼產品。這是該公司首個採用更快速、大容量HBM3e內存的芯片，非常適合大型語言模型。

「採用HBM3e，英偉達H200實現了141GB的內存，速度達4.8TB/秒，並且該公司表示，與前身英偉達A100相比，提供了近兩倍的容量和2.4倍的頻寬」。

人工智慧性能
AI向けのメリットとして、NVIDIAによれば、HGX H200は、700億パラメータのLLMであるLlama 2での推論速度をH100の2倍に向上させる。HGX H200は、H100システムのソフトウェアとハードウェアの両方と互換性のある4ウェイと8ウェイの構成で利用できる。また、Amazon Web Services、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureなど、すべてのタイプのデータセンター（オンプレミス、クラウド、ハイブリッド・クラウド、エッジ）で利用可能という。提供開始は2024年第2四半期を予定している。

GH200 Grace Hopper
エヌビディアのもう1つのキー製品は、同社のNVLink-C2Cインターリンクを使用して、HGX H200 GPUとArmベースのNVIDIA Grace CPUを組み合わせたGH200 Grace Hopper「スーパーチップ」である。

スーパーコンピューター向けに設計されており、「科学者や研究者が、テラバイト級のデータを実行する複雑なAIやHPCアプリケーションを高速化することで、世界で最も困難な問題に取り組めるようにする」とエヌビディアは述べている。GH200は、Dell、Eviden、Hewlett Packard Enterprise（HPE）、Lenovo、QCT、Supermicroなど、「世界の研究センター、システムメーカー、クラウドプロバイダーの40以上のAIスーパーコンピューター」で使用される予定だと同社は述べている。

その中でも注目すべきは、クアッドGH200を使用するHPEのCray EX2500スーパーコンピュータが数万規模のGrace Hopper Superchipノードをスケールアップできる。

AMD Instinct MI300X

12月6日、 $美國超微公司 (AMD.US)$は「AI前進」舉辦了「AI前進」活動，並揭示了代號為「MI300」的下一代Instinct加速器家族的全部內容。AMD Instinct MI300X，明確地將NVIDIA的Hopper和Intel的Gaudi加速器作為目標，在人工智慧領域中是最令人矚目的晶片之一。AMD在MI300X和MI300A加速器中採用了晶片芯片設計，利用其先進的封裝技術來與H100和H200 Hopper AI GPU競爭。AMD的新Instinct MI300X結合了5nm和6nm的IP，以其龐大的1530億晶體管規模為特色。

AMD在MI300X和MI300A加速器上選擇了芯片複合設計，利用其先進的封裝技術來與H100和H200 Hopper AI GPU競爭。 $台積電 (TSM.US)$AMD的新Instinct MI300X結合了5nm和6nm的IP，以其龐大的1530億晶體管規模為特色。

記憶體是一個可以看到顯著性能提升的部分，MI300X比上一代的MI250X（128GB）多50%。搭載192GB容量的HBM3。為實現192GB的記憶體池，AMD在MI300X上搭載了8個HBM3堆疊，每個堆疊有12-Hi，內含16Gb的IC。

這個具有192GB容量的HBM3記憶體提供最高5.2TB/秒的頻寬和896GB/秒的Infinity Fabric頻寬。舉例來說， $英偉達 (NVDA.US)$新近公布的AI加速器H200141GB提供容量， $英特爾 (INTC.US)$Gaudi 3是144GB提供容量大，主要集中在記憶體池中，這對於大部分都綁定記憶體的LLM來說非常重要。AMD在記憶體領域取得領先地位，無疑可以展示AI的實力。