英偉達能在人工智能芯片的競爭中保持其地位嗎？

技術行業的幾家關鍵參與者在AI芯片開發方面取得了重要進展。

特斯拉成功地開始大規模生產其自家的芯片，命名為Dojo。

在每年的Google Cloud Next活動中，Google揭曉了第五代自定義的tensor處理單元（TPU）芯片，TPU v5e，專為大型模型訓練和推理而設計。

亞馬遜AWS已整合其自家的Trainium和Inferentia芯片，用於訓練和推斷。

微軟也正在計劃發布自家開發的Athena芯片。

AMD推出了具有192Gb記憶容量並支援ai推斷功能的ai芯片MI300X。此外，Intel確保其ai芯片的巨額訂單價值達10億美元，包括Gaudi2和Gaudi3芯片。

根據測試數據，NVIDIA在各種指標下仍繼續保持領先地位。2023年8月8日，NVIDIA的CEO Jensen Huang在2023年SIGGRAPH上推出了下一代GH200 Grace Hopper平台。此平台專為生成式ai設計，能夠運行幾乎任何大規模語言模型，並在推斷任務中表現出色。9月11日，NVIDIA GH200 Grace Hopper超級芯片在MLPerf行業基準測試中首次亮相，展示了顯著的改進。與H100 GPU相比，性能提升了17%。這些結果表明NVIDIA在訓練和推斷方面仍處於領先地位，這是ai模型gpu應用的關鍵方面。

儘管ai芯片市場競爭日益激烈，NVIDIA強大的技術陣容和全面的產品組合使其保持競爭優勢。他們一直提供滿足ai應用需求的強大解決方案。前述其他公司所做的進展值得注意，但NVIDIA穩固的地位、成績記錄和持續創新有助於他們在ai芯片市場的持續主導地位。

近年來，Google的TPU和特斯拉的Dojo展示了令人印象深刻的計算能力。未來有可能這些技術能夠追上甚至超過英偉達在原始計算性能方面。不過，英偉達的競爭優勢不僅僅在於硬件。該公司成功地打造了以CUDA為核心的強大生態系統，這是其最強大的屏障。

CUDA是一個並行計算平台和編程模型，可以讓開發人員充分利用英偉達GPU的計算能力。目前，在英偉達CUDA平台上建立了15,000家初創企業，全球有40,000家大型企業正在利用CUDA進行加速計算。相比之下，AMD一直在努力打造的ROCm生態系統相形見絀。

關於CUDA生態系統，史丹佛大學的研究人員皮特·沃登（Pete Warden）指出了幾個英偉達保持主導地位的原因。英偉達的GPU是人工智能開發中最高效便捷的選擇，相對其他選項可以節省更多時間。此外，英偉達的CUDA生態系統更加成熟，提供豐富的資源、支持，並與PyTorch和TensorFlow等主要框架完美整合。

高度依賴：傑出的人工智能人才稀缺，招聘和留住研究人員的成本高。鑒於研究人員偏好熟悉的工具，公司在購買硬件時往往優先考慮購買英偉達平台。使用英偉達GPU相較於其他選項，如AMD OpenCL卡、Google TPU、Cerebras系統或其他硬件選擇更加便捷省時。這提高了效率，滿足了研究人員的需求。

高度不可替代性：研究人員通常在既定訓練時間內對現有模型進行迭代。英偉達的GPU不斷更新，提供更快的訓練速度，現有代碼可以無縫運行在最新的硬件上。轉換到其他公司的硬件需要重新結構代碼，這是一個耗時且勞動密集的過程。雖然英偉達的競爭對手在理論上可能提供更低的延遲，但英偉達在軟件堆疊的投資和積累使這個優勢在目前大多是一種幻想。

例如，特斯拉的Dojo芯片是一款專為滿足自身需求而設計的專用芯片。它與英偉達的通用芯片有所區別，無法完全代替。因此，為第三方使用授權Dojo存在挑戰。雖然對於小型和中型公司而言，聘請精通英偉達CUDA編程的人員相對較簡單，但要找到精通Dojo或其他編程語言的人才卻很困難。換句話說，如果一家小型或中型公司採用Dojo，就會產生極高的學習成本並面臨招聘挑戰。此外，由於Dojo從一開始就進行了大量定製，所以幾乎不可能有公司在特斯拉以外完全取代英偉達的gpu芯片。

谷歌也遇到類似問題。最初為內部用途設計，谷歌的TPU已演變為TPU v5e，能夠有效擴展各種ai工作量，包括訓練、微調和推理。TPU具有多功能性，可以加速PyTorch、JAX和TensorFlow等ai框架上的工作量。然而，儘管推出了功能強大的第五代TPU芯片，谷歌仍在其雲平台上提供英偉達芯片。這凸顯了谷歌必須面對的殘酷現實：許多ai工程師更喜歡使用英偉達gpu。