フォーマーとの本当に質の高いインタビュー $エヌビディア (NVDA.US)$ $NVDAの堀とAI半産業のディレクター...

フォーマーとの本当に質の高いインタビュー $エヌビディア(NVDA.US)$ $NVDAの堀とAI半産業のディレクター。必ず読んでください：

1。$NVDAは単なるGPUではありません。本当に重要なのは、GPUとネットワークの両方を使用して、モデルをより高速に実行するためのカスタムCUDAコードを作成し、両方を組み合わせることです。彼によると、$NVDAは競合他社と比較して計算時間をほぼ 50% 短縮できます。この優位性は、$NVDAがネットワーク企業のメラノックスを買収したときに形成されました。

2。その理由は $アルファベット A(GOOGL.US)$ がTPUを一般に公開しないのは、外部のエンジニアはほとんどCUDAのコーディング方法しか知らず、$GOOGL TPUはCUDAを使用しないからです。

3。競合他社にとっては、$NVDAよりも優れたGPUを作ることだけではなく、ソフトウェアコードとネットワークでエコシステム全体を改善することですが、これは非常に難しいことです。

4。$NVDAはGPUとネットワークを最適化して、一部の計算をネットワークデバイス上で直接行い、その後GPUに移すようにしました。これにより、効率が大幅に向上し、消費電力も少なくなりました。専門家によると、$NVDA GPUとネットワークの両方を使用すると、GPUのみを使用する場合に比べて計算時間が20〜25％短縮されます。

5。$NVDAはGPUとメラノックスとのネットワークの両方を備えているため、利益率も大幅に向上しました。クライアントは、GPUとネットワーキングの両方を一緒に購入することを好みます。

6。彼の考えでは、$NVDAと競争する方法は、Grokが行っているように推論ワークロードをターゲットにすることです。彼はまた考えています $アドバンスト マイクロ デバイシズ(AMD.US)$ $NVDAには十分な供給がないため、現在需要があります。

7。彼は、私たちがトレーニングと比較して、消費量の90％を推論中心に徐々に移行すると考えています。