個人中心
登出
中文繁體
返回
登入後諮詢在線客服
回到頂部

對前任的真正高質量採訪 $英偉達 (NVDA.US)$ $NVDA 護城河和人工智能半行業的董事。必須閱讀: 1.$ ...

對前任的真正高質量採訪 $英偉達(NVDA.US)$ $NVDA 護城河和人工智能半行業的董事。必須閱讀:

1.$ NVDA 不僅僅是一個 GPU。真正的問題在於編寫自定義 CUDA 代碼,以使模型運行更快,同時使用 GPU 和網絡,並將兩者結合起來。據他說,與競爭對手相比,$NVDA 可以將計算時間縮短近 50%。這個優勢是在 $NVDA 購買了一家網絡公司梅蘭諾克斯時形成的。

二.原因 $谷歌-A(GOOGL.US)$ 不向公眾發布 TPU 是因為外部工程師大多只知道如何編碼 CUDA,而 $GOOGL TPU 不使用 CUDA。

三.對競爭對手來說,這不僅是要製作比 $NVDA 更好的 GPU,而是要通過軟件代碼和網絡改善整個生態系統,這非常難做。

4.$NVDA 已經優化了 GPU 和網絡,因此一些計算可以直接在網絡設備上完成,然後移到 GPU,使其更有效率和更少耗電。專家說,當您同時使用 $NVDA GPU 和網絡時,與僅使用 GPU 相比,您可以獲得 20-25% 的計算時間提高。

5.由於 $NVDA 同時具有 GPU 和與 Mellanox 的網絡,因此這也顯著提高了他們的利潤。客戶更喜歡一起購買 GPU 和網絡。

六.在他看來,與 $NVDA 競爭的方法是像 Grok 一樣定位推論工作負載。他也認為 $美國超微公司(AMD.US)$ 現在有需求,因為 $NVDA 供應不足。

七.他認為,與訓練相比,我們將逐漸轉移到基於推論的消費率 90%。
對前任的真正高質量採訪 $英偉達 (NVDA.US)$ $NVDA 護城河和人工智能半行業的董事。必須閱讀:  1.$ NVDA 不僅僅是一個 GPU。真正的問題在於編寫自定義 CUDA 代碼,以使模型運行更快,同時使用 GPU 和網絡,並將兩者結合起來。據他說,與競爭對手相比,$NVDA 可以將計算時間縮短近 50%...
對前任的真正高質量採訪 $英偉達 (NVDA.US)$ $NVDA 護城河和人工智能半行業的董事。必須閱讀:  1.$ NVDA 不僅僅是一個 GPU。真正的問題在於編寫自定義 CUDA 代碼,以使模型運行更快,同時使用 GPU 和網絡,並將兩者結合起來。據他說,與競爭對手相比,$NVDA 可以將計算時間縮短近 50%...
對前任的真正高質量採訪 $英偉達 (NVDA.US)$ $NVDA 護城河和人工智能半行業的董事。必須閱讀:  1.$ NVDA 不僅僅是一個 GPU。真正的問題在於編寫自定義 CUDA 代碼,以使模型運行更快,同時使用 GPU 和網絡,並將兩者結合起來。據他說,與競爭對手相比,$NVDA 可以將計算時間縮短近 50%...
對前任的真正高質量採訪 $英偉達 (NVDA.US)$ $NVDA 護城河和人工智能半行業的董事。必須閱讀:  1.$ NVDA 不僅僅是一個 GPU。真正的問題在於編寫自定義 CUDA 代碼,以使模型運行更快,同時使用 GPU 和網絡,並將兩者結合起來。據他說,與競爭對手相比,$NVDA 可以將計算時間縮短近 50%...
免責聲明:社區由Moomoo Technologies Inc.提供,僅用於教育目的。 更多信息
3
1
1
+0
原文
舉報
瀏覽 8273
評論
登錄發表評論
    682粉絲
    11關注
    1461來訪
    關注