グーグルTPUとブロードコム

Googleは、20代半ばにAIへの野望を拡大する必要があったときに課題に直面しましたが、Nvidia GPUは高価で大量に手に入れるのが難しいことに気付きました。その結果、彼らは独自のカスタムシリコン、TPUを作成しました。TPUは、計算量の多いタスク専用に設計されたAIアクセラレータです。TPU v1は内部使用のみを目的としていましたが、バージョン2〜4はGoogle Cloudで利用でき、v5eはクラウドのお客様を念頭に置いてリリースされました。

TPUはチップあたりのGPUよりも遅いですが、大規模に購入して実行する方がはるかに安価です。そのため、GoogleはTPUの多くを1つのタスクに投入することに重点を置いています。TPU v4は最大4kチップでしたが、v5eは「数万」を処理できるため、より大きなモデルをトレーニングして展開できます。v5eのチップあたりのパフォーマンスは、ワークロードにもよりますが、v4とほぼ同じかそれよりも悪いですが、はるかに安価で効率的です。Googleはv4と比較してv5eのレンタルにチップあたり63％安い料金を請求します。その結果、Nvidia H100よりも顧客はコストを大幅に節約できます。

GoogleがNvidiaよりも優れている点の1つは、常にポッドとデータセンター全体を念頭に置いてTPUを設計してきたのに対し、Nvidiaはそれに慣れていないことです。TPU v5eは、AWSの先導に従い、人気のあるオープンソースのAIフレームワークをサービスとして統合しています。しかし、Googleが競争するためには、Nvidiaのソフトウェアスタックに匹敵するようにもっと努力する必要があります。

Broadcomは、TPUを取り巻くチップ、内部ネットワーク「ファブリック」、およびネットワークハードウェアを供給しています。Broadcomには大きなソフトウェアセグメントもあり、VMwareの買収が承認されるまではさらに大きくなる可能性があります。未発表のTPU v5ハードウェアを含むBroadcomの製品のGoogleへの販売は、同社にとって追い風です。しかし、彼らは弱いスマートフォンやPC市場向けに多くの製品を製造しており、半導体セグメントはAIなしでは前年比横ばいです。

全体として、TPU v5eはNvidiaの市場支配を崩壊させる可能性を秘めていますが、GoogleはNvidiaのソフトウェアスタックに匹敵する必要があります。TPUの成功はBroadcomにも利益をもたらしますが、貸借対照表の問題とGoogleへの依存にはいくつかのリスクがあります。現時点では、中立を保ち、これらの企業が将来どのように発展するかを見守ることが推奨されています。