GPUバトル：NVIDIA対AMD
AMDがAdvancing AIイベントでMI300Xを発売したとき、Lisa Su、AMDのCEOは、プレゼンテーション中に自身と同僚は、Llam2を使用してNVIDIA H100の推論性能と比較してアクセラレーターの実力を紹介しました。発表で、8つのMI300Xから構成されるAMDの単一サーバーは、H100のサーバーよりも1.6倍高速に動作します。
しかし、NVIDIAはこの比較に納得しておらず、それを否定しました。NVIDIAによるブログ投稿によると、AMDはTensorRt-LLmと比較する際に最適化を組み込んでいなかったため、H100のGPUがMI300Xよりもはるかに優れていることを主張しています。
NVIDIAはこれに対抗するために、Llama 2 700億チャットモデルを実行しながら、シングルH100を8ウェイH100 GPUと照合しました。 $アドバンスト マイクロ デバイシズ(AMD.US$ $エヌビディア(NVDA.US$
免責事項：このコミュニティは、Moomoo Technologies Inc.が教育目的でのみ提供するものです。
さらに詳しい情報
コメント
サインインコメントをする
digimonX : AMDはnVidiaのフィードバックに対応し、パラメータを更新し、MI300Xがまだ先行していることを示しました。「ニュース」セグメントには、詳細に興味がある場合は、12月16日のURLがあります。