議事録 | AMDデータセンターとAIテクノロジープレミア

1。AMDは、640を超えるインスタンスを含む第4世代EPYCプロセッサーファミリーのアップデートを発表し、2023年末までに200個の新しいインスタンスを立ち上げる予定です。

2。第4世代のAMD EPYCプロセッサーは、引き続き最高のパフォーマンスと電力効率の高いAI CPUであり、ほとんどのAIワークロードに最適なパフォーマンスを提供します。

3。AMDはAWSと提携して、AMDの第4世代「Genoa」EPYCプロセッサーを使用するEC2 M7aインスタンスのプレビューを開始しました。このインスタンスには、新機能と改善されたパフォーマンスが備わっています。

4。AMDは、次世代のCDNA3アクセラレータアーキテクチャをベースにした世界で最も先進的なユニバーサルAIアクセラレーター、Instinct MI300Xを発表しました。

5。ROCMソフトウェアエコシステムはデータセンターのアクセラレータに使用でき、PyTorch 2.0と統合された「Day-0」サポートを提供します。

6。さらに、AMDは、AMD Pensando DPU、AMD超低遅延NIC、AMDアダプティブNICなど、強力な通信ネットワーク製品ポートフォリオをリリースしました。その中でも、DPUはIBMクラウド、Microsoft Azure、オラクル・コンピュート・インフラストラクチャーなどのクラウド・パートナーに導入されています。

「データセンターとAIテックデー」イベントでは、AMDの幹部がAWS、シタデル、ハギングフェイス、メタ、Microsoft Azure、PyTorchの業界リーダーとともにステージに上がり、それぞれの技術パートナーシップを紹介し、次世代の高性能CPUおよびAIアクセラレータソリューションを市場に投入しました。

AMDは、第4世代EPYCプロセッサー・ファミリーの一連のアップデートを発表しました。

1）現在、640を超えるEPYCインスタンスがあり、2023年末までにさらに200個追加される予定です。

2）第4世代AMD EPYCプロセッサー（コードネームはジェノア）

引き続き最高のパフォーマンスと最も電力効率の高いAI CPUです

現在、ほとんどのAIワークロードはCPUによって駆動されており、ジェノアは最高のAI CPUです。

3）AWSのEC2担当副社長、デイブ・ブラウンは次のように語っています。

AMDは2018年からAWSと連携しており、汎用、コンピューティング最適化、メモリ最適化、および高性能コンピューティングワークロード向けに、EPYCプロセッサをベースにした100を超えるインスタンスを提供しています。

2022年、AWSはHPC固有のインスタンスAmazon EC2 HPC6aを立ち上げました。これは、計算流体力学などのワークロードでx86インスタンスよりも 65% 優れています。

DnT、Sprinklr、TrueCarは、AMDベースのAmazon EC2インスタンスのコストとクラウド利用率の最適化の恩恵を受けています。

お客様は、金融アプリケーション、アプリケーションサーバー、ビデオトランスコーディング、シミュレーションモデリングなど、新しいタイプのアプリケーションをAWSに導入しようとしています。

Amazonが第4世代のAMD EPYCプロセッサーのパフォーマンスとAWS Nitroシステムを組み合わせると、クラウドテクノロジーが進歩し、お客様がより多くのEC2インスタンスをより優れたパフォーマンスでより多くのことを実行できるようになります。

EC2 M7aインスタンスのプレビューが開始されました。第3四半期にはフル稼働する予定です。新しいインスタンスはAMDの第4世代「ジェノア」EPYCプロセッサを使用しています。

EC2 M7aインスタンスは、AVX3-512、VNNI、BFloat16などの新しいプロセッサ機能を提供し、お客様はM6aインスタンスよりも 50% 高いコンピューティングパフォーマンスを得ることができ、AWSに幅広いワークロードをもたらします。

4）イベント以外では、オラクルは第4世代のAMD EPYCプロセッサを搭載した新しいオラクル・コンピュート・インフラストラクチャ（OCI）E5インスタンスを提供する計画を発表しました。

1)第4世代AMD EPYC 97X4プロセッサー (コードネームベルガモ)

ソケットあたり128個のZen 4cコアにより、クラウドベースのアプリケーションで最大のvCPU密度と業界トップのパフォーマンスを実現するとともに、優れたエネルギー効率を実現します。

Metaは、これらのプロセッサがInstagramやWhatsAppなどの主流のアプリケーションに高い適用性があることをAMDと話し合いました。

第3世代のAMD EPYC 97x4プロセッサーと比較すると、Metaはさまざまなワークロードでパフォーマンスが大幅に向上し、TCOも大幅に向上しました。

AMDとMetaは、Metaのエネルギー効率と計算密度の要件に合わせてEPYC CPUを最適化する方法についても話し合いました。

テクニカルコンピューティング用の世界最高性能のx86サーバーCPU

マイクロソフトの Azure HPC と AI のジェネラルであるニディ・チャペルは次のように語っています。

マイクロソフトは、Azure HBv4とHXインスタンスの一般提供を発表しました

これらのインスタンスは、第4世代のAMD EPYCプロセッサーとAMD 3D V-Cacheテクノロジーを使用して、お客様が市場投入までの時間とデジタル化プロセスを短縮できるようにします

AMDは一連の人工知能プラットフォーム戦略を発表しました。これにより、クラウドからエッジ、エンドポイントまでのハードウェア製品ポートフォリオと、スケーラブルでユビキタスなAIソリューションを開発するための業界ソフトウェアとの緊密な連携をお客様に提供します。

   AMD インスティンクト MI300シリーズアクセラレータに関する新しい詳細：

AMDは、世界で最も先進的なユニバーサルAIアクセラレータであるAMD Instinct MI300Xアクセラレータを発売しました。

次世代のCDNA3アクセラレータアーキテクチャに基づいており、最大192GbのHBM3メモリをサポートし、ユニバーサルAIワークロード用の大規模言語モデルのトレーニングと推論に必要な計算効率とメモリ効率を提供します。

AMD Instinct MI300Xの大容量メモリを使用すると、400億パラメーターのモデルであるFalcon-40などの大規模な言語モデルを、1つのMI300Xアクセラレーターで組み立てることができます。

MI300Xは、主要顧客向けに第3四半期からサンプリング可能になります。

AMDは、8つのMI300Xアクセラレーターを業界標準の設計に統合し、AIの推論とトレーニングのための究極のソリューションを提供するAMD Instinctプラットフォームを導入しました。

AMD Instinct MI300Aは、HPCおよびAIワークロード向けの世界初のAPUアクセラレーターで、現在サンプル提供されています。

ROCMソフトウェアスタックにおけるAMDとPyTorch財団のコラボレーションについて話し合いました。

すべてのAMD インスティンクトアクセラレーターのROCm 5.4.2バージョンで、PyTorch 2.0の「0日目」サポートを提供しました。

この統合により、開発者は、AMDアクセラレーターと互換性があり、すぐに利用できるPyTorch駆動のAIモデルに多数アクセスできます。

AMDインスティンクトアクセラレーター、AMD RyzenおよびAMD EPYCプロセッサー、AMD Radeon GPU、バーサルプロセッサー、アルベオアダプティブプロセッサーなど、何千ものハギング・フェイスモデルがAMDプラットフォーム上で最適化されます。

  AMD Pensando DPUは、強力なソフトウェアスタックとゼロトラストセキュリティ、および最先端のプログラマブルパケットプロセッサを組み合わせて、世界で最もインテリジェントで高性能なDPUを構築しています。

AMD Pensando DPUは、IBMクラウド、Microsoft Azure、オラクル・コンピュート・インフラストラクチャーなどのクラウド・パートナーに広く導入されています。

企業では、AMD Pensando DPUは、DXCなどの大手ITサービス企業と協力して、また顧客のアプリケーションパフォーマンスを向上させるためのVMware vSphere分散サービスエンジンの一部として、HPE Aruba CX 10000インテリジェントスイッチに導入されています。

現世代の製品よりも優れた性能と効率を実現することを目的としており、2023年末までに発売される予定です。

お客様がAMD Pensando P4プログラマブルDPUに展開するサービスを迅速に開発または移行し、AMD Pensandoプラットフォームの豊富な既存の機能と連携して作業できるようにします。