個人中心
登出
中文繁體
返回
登入後諮詢在線客服
回到頂部

谷歌 TPU 和博通

avatar
Carter West 發表了文章 · 2023/09/22 05:41
在 Moomoo 上跟隨我,以保持通知和連接!
Nvidia 昂貴的 GPU 正在主導資料中心硬體市場,取代 CPU 運算並降低客戶利潤。
谷歌是一個很大的例外, 使用自己的定制矽, TPU.他們還在谷歌雲上租用它們,以及 Nvidia 硬件。他們剛剛推出了版本 5e。
TPU 芯片由博通和 TSM 製成。但是,谷歌的這種推動還不足以彌補 Broadcom 其他地方的弱點。
當他們需要擴展人工智能野心時,Google 面臨著挑戰,但發現 Nvidia GPU 昂貴且難以大量找到。因此,他們創造了自己的定制矽膠 TPU,這是一種專門針對昂貴運算任務而設計的 AI 加速器。TPU v1 僅供內部使用,但 2-4 版本可在谷歌雲上使用,並且 v5e 已考慮到雲客戶的發布。
TPU 比每個芯片 GPU 慢得多,但大規模購買和運行便宜得多,因此 Google 專注於將其中許多人投入任務。雖然 TPU v4 以 4k 芯片最大化,但 v5e 可以處理「數萬個」,這允許更大的模型進行培訓和部署。v5e 的每個芯片的性能大約相同甚至比 v4 更差,具體取決於工作量,但它更便宜和高效。與 v4 相比,谷歌每個芯片租用 v5e 的費用減少了 63%,從而為 Nvidia H100 以上的客戶節省了大量的成本。
谷歌 TPU 和博通
谷歌比 Nvidia 擁有的一個優點是,他們一直在設計帶有豆莢和整個數據中心的 TPU,而 Nvidia 是新的。隨著 AWS 的領導,TPU v5e 將熱門的開放原始碼 AI 架構整合為服務。但是,如果 Google 想競爭,Google 仍然需要做更多的事情來匹配 Nvidia 的軟件堆棧。
博通提供芯片,內部網絡「光纖」和網絡硬件周圍的 TPU。博通也有一個大型的軟件市場,這可能會得到 VMware 收購的更大的待批准。博通的產品向谷歌銷售, 包括未公佈的 TPU V5 硬件, 是該公司的順風.但是,他們為弱智能手機和 PC 市場製造了很多產品,而且他們的半導體市場在沒有人工智能的情況下同比持平。
谷歌 TPU 和博通
總體而言,TPU v5e 有潛力破壞 Nvidia 的市場優勢,但谷歌需要匹配 Nvidia 的軟件堆棧。TPU 的成功也將有利於博通, 但他們的資產負債表問題和對谷歌的依賴造成了一些風險.目前,建議保持中立,並觀察這些公司將來如何發展。
免責聲明:社區由Moomoo Technologies Inc.提供,僅用於教育目的。 更多信息
3
+0
原文
舉報
瀏覽 1.8萬
評論
登錄發表評論