個人中心
登出
中文繁體
返回
登入後諮詢在線客服
回到頂部
AI晶片需求提振英伟达:會引發晶片股上漲行情嗎?
瀏覽 88萬 內容 337

第三方專家採訪Chief Architect在 $微軟 (MSFT.US)$ 對 看好 $英偉達 (NVDA.US)...

第三方專家採訪Chief Architect在 $微軟 (MSFT.US)$ 對 看好 $英偉達 (NVDA.US)$ 需求。

NVDA以30倍街頭CY2025 GAAP 每股收益交易。 假設街頭每股收益低估10%,這意味著股票價格為27倍。 鑑於只有需求向好,很難看到股票交易低於25倍,因此在這個價位上並不不合理 - 雖然更安全的是在股票價格接近110美元時買入,那時大約是街頭每股收益的25倍。

沒有人知道增長的輪廓會是什麼,但如果最終NVDA的增長率穩定在每季度約10-12%,那麼數字和倍數都會上升。在這裡似乎有一些看漲選擇權的上升潛力,因為沒有真正理由質疑這裡的需求。

我不夠聰明,不能理解所有衍生品的交易(數據中心、機架、冷卻、電力),它們將像鞭子的尾端一樣作用。個人認為,將投資擴展至這些元件層級比只是向上移動至超級計算機中心風險更大。各自有各自的想法。

重點
-聯繫已經在微軟工作了約6年,專注於Azure基礎設施。

-人工智能計算的供應嚴重短缺。已經不得不與CoreWeave談判合作,以利用他們的基礎設施。

-需求趣聞:在上午10:30打開新安裝的叢集,並且好奇何時能達到100%的利用率。去吃午飯,到下午1點時它完全被利用。

-“由於需求的存在,簡直無法快速建立這些叢集。” “沒有看到需求減緩。如果有什麼,需求還在繼續增長。” [不確定這是否意味著絕對需求增加還是增長率增加]

-背後有一種名為SmartFabric的技術,它查看客戶工作負載,並試圖幫助解構數據/向量,以找出最有效的運行方式。有些客戶表示他們需要H100,但我們會向他們展示他們可以以其他方式完成,以釋放這些最新/最先進的GPU,供應客戶工作負載。

-典型的人工智能叢集由1,024個節點組成,每個節點有8個GPU。因此有8,192個GPU占用樓層。但是也不只建立1個叢集,而是在數據中心的不同區域建立3個叢集,以維護與客戶的服務水平協議-所以如果發生自然災害,只會關閉1個叢集。

-數據中心分為3個層次:最低層次提供將客戶連接到微軟黑纖並將數據快速傳輸到GPU的能力。中間層是邊緣數據中心,擁有Azure堆棧設備和可定制的工作負載,可以在邊緣運行,如HPC或人工智能。頂級層是最大的數據中心,例如Quincy的數據中心長達2.5英里。

-幾年前計劃數據中心-需要18個月才能獲得變壓器和變電站。網絡設備的招標需要提前18個月。

-GPU相比於傳統的CPU消耗的功率大約是其2.5倍,並且產生的熱量是其4-5倍。功率佔數據中心成本的30%,所以我們專注於效率,如降溫。

-光學:希望GPU以至少400G的速度運行,現在已發展到800G和1.6兆速度

液冷技術
-液冷技術:聽起來像是NVDA在開發自己的液冷技術(?),使用NVLink,其他供應商也使用了大量我們自家的專有設計。

-NVDA表示不需要對H100進行液冷,但卻展示出了其80%的故障率較低。NVDA之所以不希望我們這樣做是因為更多的故障意味著購買更多的NVDA芯片,但這樣更好,因為不會占用NVDA的客戶支持。他們同意了這一點。

-很多我們的液冷和電源管理設計都應用到了Blackwell - 這就是為什麼現在你可以購買它,帶有液冷技術的預裝形式因為它是事先安裝好的。

-如果我使用NVDA的液冷技術,我會使用他們的支持。但如果我使用Delta或Boyd或CoolerMaster的液冷技術,他們會提供他們自己的熱導膏。

-我們與SpaceX合作,所有的數據中心都連接在一起,所以可以作為備用。
免責聲明:社區由Moomoo Technologies Inc.提供,僅用於教育目的。 更多信息
3
1
+0
3
原文
舉報
瀏覽 4.9萬
評論
登錄發表評論
786粉絲
11關注
1704來訪
關注
更多内容