個人中心
登出
中文繁體
返回
登入後諮詢在線客服
回到頂部

哪個在 AMD 和 NVIDIA AI 半導體比賽比賽中獲得冠軍?

avatar
moomooニュース米国株 發表了文章 · 2023/11/14 00:53
本文使用零件的自動翻譯
哪個在 AMD 和 NVIDIA AI 半導體比賽比賽中獲得冠軍?
$英偉達 (NVDA.US)$已宣布了一個新一代 AI 超級計算機芯片,可能在深度學習和 OpenAI 的 GPT-4 等大型語言模型(LLM)的未來突破中發揮重要作用。
關鍵產品是基於 NVIDIA 的「Hopper」架構的 HGX H200 GPU,它是流行的 H100 GPU 的繼承者。這是該公司第一個使用更快、更大容量的 HBM3e 記憶體的晶片。適用於大型語言模型它已經變成了。
該公司表示:「使用 HBM3e,NVIDIA H200 可以達到每秒 4.8 TB 的記憶體,並且與其前身 NVIDIA A100 相比,提供了幾乎兩倍的容量和 2.4 倍的頻寬。」
人工智慧效能
根據 NVIDIA 的說法,作為人工智能的優勢,HGX H200 是 Llama 2,它是擁有 70 億參數的法學碩士推論速度提高了 H100 的 2 倍讓我做HGX H200 可用於與 H100 系統軟件和硬體相容的 4 向和 8 向配置。此外,據說它可以用於所有類型的數據中心(內部部署,雲,混合雲,邊緣),例如亞馬遜 Web 服務,谷歌雲,Microsoft Azure 和 Oracle 雲端基礎架構。該服務計劃於 2024 年第二季開始。
GH200 格雷斯霍珀
NVIDIA 的另一個關鍵產品是 GH200 格雷斯霍珀「超級芯片」,它結合了 HGX H200 GPU 和基於 ARM 的英維亞格雷斯 CPU,使用公司的 NVLink-C2C 互連結。
它是專為超級計算機設計的,NVIDIA 表示,「科學家和研究人員將能夠通過加速執行 TB 數據的複雜 AI 和 HPC 應用程序來解決世界上最困難的問題。」該公司表示,GH200 將用於「來自世界各地的研究中心,系統製造商和雲提供商的 40 多台 AI 超級計算機」,例如戴爾,埃維登,惠普企業(HPE),聯想,QCT 和超微米。
其中,應該注意的是,使用 Quad GH200 的 HPE 的 Cray Ex2500 超級計算機可以擴展數萬個格雷斯霍珀超級芯片節點。
AMD 本能 MI300X
哪個在 AMD 和 NVIDIA AI 半導體比賽比賽中獲得冠軍?
十二月六日 $美國超微公司 (AMD.US)$「絕望的人工智能」它被舉行並命名「米三百」下一代本能加速器系列的完整故事將揭露。由於 AMD Instinct MI300X 清楚地針對人工智能領域的 NVIDIA 的 Hopper 和英特爾的高迪加速器,因此它肯定是最受到關注的芯片。
AMD 已針對 MI300X 和 MI300A 加速器採用芯片設計, $台積電 (TSM.US)$通過利用先進的包裝技術,它與單體 H100 和 H200 料斗人工智能 GPU 競爭。AMD 的新 Instinct MI300X 結合了 5 奈米和 6 奈米 IP,並具有超過 153 億晶體管的規模。
內存是可以看到顯著性能改進的部分,MI300X 比以前型號 MI250X(128GB)高了 50%192 GB 容量的硬碟機 3它配備了。為了實現 192 GB 的記憶體池,AMD 在 MI300X 上配備了 8 個 HBM3 堆疊,每個堆疊為 12 高,並內置 16 GB 的 IC。
哪個在 AMD 和 NVIDIA AI 半導體比賽比賽中獲得冠軍?
這個192 GB 的 HBM3 記憶體提供最大頻寬 5.2 TB/s,無限網狀架構頻寬為 896 GB/s。比較之下, $英偉達 (NVDA.US)$什麼是最近宣布的人工智能加速器 H200141 千克它提供的容量 $英特爾 (INTC.US)$什麼是高迪 3144 千克它提供了容量的大型記憶體池在 LLM 中非常重要,其中大部分都是由內存綁定的,而通過在內存領域領先,AMD 肯定可以展現 AI 的力量。
哪個在 AMD 和 NVIDIA AI 半導體比賽比賽中獲得冠軍?
本文使用零件的自動翻譯
資料來源:每家公司的官方網站,彭博,Engadget,WCCF Tech,微調鎮,CNBC
穆莫新聞-澤伯
免責聲明:此内容由Moomoo Technologies Inc.提供,僅用於信息交流和教育目的。 更多信息
54
5
+0
1
原文
舉報
瀏覽 3.2萬
評論
登錄發表評論
avatar
moomoo資訊官方帳號
2.9萬粉絲
2關注
6.6萬來訪
關注