與前任的訪談 $英偉達 (NVDA.US)$ 員工了解半市場的下一步是什麼和 $英偉達 (NVDA.US)$ 詳細的 C...

與前任的訪談 $英偉達 (NVDA.US)$ 員工了解半市場的下一步是什麼和 $英偉達 (NVDA.US)$ 詳細的 CUDA：

1. $美國超微公司 (AMD.US)$ 對 $ NVDA 的 CUDA 的答案是 RoCM。但他認為這兩者之間存在很大的差異。CUDA 是一個成熟的生態系統，大多數開發人員都知道 CUDA 自 2006 年以來一直存在。CUDA 也更優化和穩定。

二.$AMD 在優化 RoCM 方面取得了重大步，但它仍需要跟上 CUDA。他還認為 RoCM 的缺點是它支持 $AMD 和其他硬件的異質性質，這增加了複雜性。另一方面，CUDA 僅針對 $NVDA 硬件進行了優化。

三.CUDA 擁有廣泛的庫層，而 RoCM 的庫仍在發展中。他還指出，與超擴展商建立合作夥伴關係的 CUDA 相比，RoCM 的合作夥伴關係表現不佳。

4.他認為 $亞馬遜 (AMZN.US)$ AWS 的 Trainium 晶片的效能性能在 100 美元 NVDA 至 NVDA A100 美元之間。他非常喜歡 LLM 的 H100；隨著推出 P5 實例，他們將培訓成本降低了 40%。

5.他看到行業的一些瓶頸，包括 $NVDA：
-具有與產量、瑕疵密度和整體製程穩定性相關問題的進階節點
-材料限制，矽現在已達到物理極限。
-散熱挑戰。他指出，$NVDA 遇到困難在平衡功耗與性能。
-互聯的延遲。雖然 $NVDA 開發了 NVLink 和無限網狀架構，但仍然存在關於此主題的問題。

六.他認為，行業中最令人興奮的發展是光學互連，人們正在探索光學互連，以取代傳統的銅為基礎的互連，提供更高的頻寬和較低的延遲。

七.$ 新增， $邁威爾科技 (MRVL.US)$ ，以及 $博通 (AVGO.US)$ 目前正在與 1.6 兆收發器開發光學互連的競爭。