人工知能チップのアームズレースでNVidiaはその地位を維持できるか？

テクノロジー業界のいくつかの主要なプレイヤーは、人工知能チップ開発において重要な進展を遂げています。

テスラは、独自のDojoと名付けられたプロプライエタリチップの量産を成功させました。

Google Cloud Nextの年次イベントで、Googleは第5世代のカスタムテンソルプロセッシングユニット（TPU）チップであるTPU v5eを発表しました。このチップは、大規模なモデルのトレーニングと推論に特化して設計されています。

Amazonは、TrainiumとInferentiaのチップを統合し、トレーニングと推論の目的のために利用しています。

マイクロソフトは自社開発のAthenaチップのリリースを計画中です。

AMDは、192GBのメモリ容量を誇り、AI推論機能をサポートするAIチップMI300Xを発表しました。また、インテルは、Gaudi2とGaudi3のチップを含むAIチップの大量発注を確保しました。

試験データに基づくと、エヌビディアは各種メトリックにおいてチップ性能の面でリードを維持し続けています。2023年8月8日、NVIDIAのCEOであるJensen Huangは、SIGGRAPH 2023で次世代GH200 Grace Hopperプラットフォームを発表しました。このプラットフォームは、生成的な人工知能に特化して設計されており、優れた推論タスクの実行性能を持っているため、ほぼすべての大規模言語モデルの実行に対応できます。9月11日、NVIDIA GH200 Grace HopperスーパーチップがMLPerf業界ベンチマークテストでデビューし、大幅な改善を実現しました。H100 GPUに比べて17％のパフォーマンス向上を達成しました。これらの結果は、エヌビディアがGPUアプリケーションのトレーニングと推論の両方で引き続きリードを取っていることを示しています。

人工知能チップ市場における激しい競争にもかかわらず、エヌビディアの強力な技術と包括的な製品ポートフォリオにより、競争優位性を維持できています。彼らは、人工知能アプリケーションの需要に応える強力なソリューションを提供し続けています。他の企業が前述の進歩を遂げたことは注目に値しますが、エヌビディアの確立された地位、トラックレコード、継続的なイノベーションは、彼らの人工知能チップ市場における支配力を続ける要因です。

近年、GoogleのTPUとTeslaのDojoは印象的なコンピューティング能力を示しています。将来的には、これらの技術が原始的なコンピューティング能力においてNVIDIAに追いついて、そして超える可能性があります。しかし、NVIDIAの競争上の優位性はハードウェアに限定されません。同社は、CUDAを中心とする強固なエコシステムを成功裏に開発しており、これが同社を最も強いバリアにしています。

CUDAは、開発者がNVIDIA GPUの計算能力を十分に活用できる並列計算プラットフォームおよびプログラミングモデルです。現在、NVIDIA CUDAプラットフォーム上に構築された15,000のスタートアップ企業があり、世界中の40,000の大企業が高速計算のためにCUDAを利用しています。一方、AMDのROCmエコシステムは、差をつけることができません。

CUDAエコシステムに関して、スタンフォード大学の研究者であるPete Wardenは、NVIDIAが支配的な地位を占める理由を数多く挙げています。NVIDIAのGPUは、人工知能開発に最も効率的な選択肢であり、他のオプションと比較して大幅に便利で時間を節約できます。さらに、NVIDIAのCUDAエコシステムはより熟成しており、PyTorchやTensorFlowなどの主要なフレームワークとの優れた統合、豊富なリソースとサポートを提供しています。

高い依存性：優秀なAIの専門家は限られており、研究者を雇用して研究者たちを保持する費用はかなりのものです。研究者たちは、使い慣れたツールに好意的であるため、企業はしばしば、ハードウェアの購入時にはNVIDIAプラットフォームを優先的に購入します。NVIDIAのGPUを使用すると、AMD OpenCLカード、Google TPU、Cerebrasシステムなどの代替手段よりも、より便利で時間の節約ができるため、研究者たちのニーズを満たして、効率を改善します。

高い置換可能性：研究者たちは通常、制御されたトレーニング時間内で既存のモデルを反復しています。NVIDIAのGPUは常に更新され、より速いトレーニング速度を提供し、既存のコードは最新のハードウェアでもシームレスに実行できます。他社のハードウェアに切り替えるには、コードを再構築する必要があり、時間と労力がかかります。NVIDIAの競合他社は理論的にはより低いレイテンシを提供する可能性がありますが、NVIDIAのソフトウェアスタックへの投資と蓄積により、この優位性はほとんど現実味を帯びません。

たとえば、TeslaのDojoチップは、独自に設計された独占的なチップで、一般的なNVIDIAの汎用チップとは異なり、完全に代替することができません。そのため、Dojoを第三者にライセンスすることには課題があります。小規模および中規模の企業がNVIDIA CUDAプログラミングに熟練した個人を雇うことは比較的簡単ですが、Dojoやその他のプログラミング言語に熟練した人材を見つけることは困難です。言い換えれば、小規模または中規模の企業がDojoを採用する場合、学習コストがかかり、採用上の課題が生じることが予想されます。さらに、Dojoはその始まりから広範囲にわたってカスタマイズされたため、Teslaの外部企業がNVIDIAのGPUを置き換えることはほとんど不可能です。

Googleも同様の問題に直面しています。最初は内部用に設計されたGoogle TPUは、トレーニング、ファインチューニング、および推論を含むさまざまなAIワークロードを効率的にスケーリングするTPU V5eに進化しました。TPUは複数の機能を提供し、PyTorch、JAX、TensorFlowなどのAIフレームワークでワークロードを加速します。しかし、強力な第5世代のTPUチップの導入にもかかわらず、GoogleはクラウドプラットフォームでNVIDIAチップを提供し続けています。これは、多くのAIエンジニアがNVIDIA GPUを利用することを好むという厳しい現実を物語っています。