當英偉達在其推進AI活動中推出MI300X時,蘿莎Su,AMD的首席執行官和她的同事通過將其與NVIDIA H100的推論性能進行比較來展示加速器的強大。在演示中,AMD的一個服務器由八個MI300X組成,性能比一個H100的服務器快1.6倍。 但NVIDIA對這一比較表示不滿並予以了澄清。根據NVIDIA的一篇博客文章,與AMD的演示相反,公司宣稱在針對具有優化軟體的恰當基準測試下,H100 GPU在性能上遠遠超過MI300X。
NVIDIA通過指責AMD沒有在與TensorRT-LLm比較時納入其優化來回應這一問題。NVIDIA的回應是將單個H100與運行Llama 2 700億chat模型的八路H100 GPU進行比較。 但NVIDIA對這一比較表示不滿並予以了澄清。根據NVIDIA的一篇博客文章,與AMD的演示相反,公司宣稱在針對具有優化軟體的恰當基准測試下,H100 GPU在性能上遠遠超過MI300X。
digimonX : AMD 已回應 NVidia 的反饋,更新了參數並顯示 MI300X 仍在領先地位。如果有人對詳細信息感興趣,12 月 16 日的「新聞」區段下有一個網址。