個人中心
登出
中文繁體
返回
登入後諮詢在線客服
回到頂部
ARM連續四日走跌:芯片股怎麼了?
瀏覽 50.4萬 內容 68

新興運算能力供應商在 GPU 短缺中安靜獲利

avatar
Noah Johnson 參與了話題 · 2023/09/15 03:54
在 Moomoo 上關注我,隨時掌握最新資訊和聯繫!
1.AI 正在蓬勃發展,GPU 短缺推動第三方運算提供商
人工智能激發了對 GPU 的巨大需求,預計全球需求將增加 10 至 100 倍。在過去的五年中,由於加密貨幣的興起和 2020 年供應鏈危機,GPU 的供應量不足。目前在 AIGC 和自動駕駛等領域的熱情進一步加劇了這種情況。因此,像微軟這樣的科技巨頭也面臨 GPU 供應短缺。
由於 Nvidia 在 GPU 市場上佔有主導地位,其他製造商在 AI 模型培訓中很難與他們競爭。這可能會導致獨權的時期,因此處理 GPU 供應中的短期限制造成困難。
Nvidia GPU 正面臨供需不平衡的挑戰,這也推動 CoreWeave 和 Lambda Labs 等新興 GPU 計算能力供應商的顯著收入增長。預計對 AI 推論計算能力的需求將大幅增加,並且可用 GPU 的數量也將增加。從長遠來看,供應限制預計不會持續太久。然而,從模型培訓的角度來看,短缺可能會持續存在。
新興運算能力供應商在 GPU 短缺中安靜獲利
二.科瑞威夫和蘭布達實驗室的崛起
CoreWeave 和 Lambda 實驗室是新興的私有雲 GPU 運算提供商。使用者可以在雲端或本地資料中心存取 NVIDIA 的 AI 產品和服務。
新興運算能力供應商在 GPU 短缺中安靜獲利
CoreWeave 和蘭布達實驗室與 NVIDIA 有密切的關係。2023 年 4 月,NVIDIA 在 CoreWeave 進行了 100 萬美元的股權投資,而 Lambda 在另一輪更大的融資中獲得了 NVIDIA 的 300 億美元投資。
CoreWeave,以前稱為大西洋加密貨幣,最初專注於以太坊採礦業務。他們通過購買大量 NVIDIA GPU 來提供加密貨幣挖礦服務。2019 年,由於穩定性/穩定擴散等 AI 初創企業的需求日益增加,他們轉向提供 AI 計算能力服務。OpenAI 的 ChatGPT 的引入和生成人工智能的興起進一步提高了他們的業務收入。
CoreWeave 在 2022 年的收入約為 25 萬美元,預計到 2023 年將達到約 6 億美元。CoreWeave 調整了 2023 年的初步前景,降低預期收入和資本開支,但增加了多年承諾。此調整可能是由於 CoreWeave 也面臨的 GPU 供應限制所致。
Lambda Labs 成立於 2012 年,並於 2019/2020 年轉換為 AI 運算供應商,提供雲端 GPU 容量出租。在規模方面,Lambda 比 CoreWeave 小,但預計在 2023 年將產生超過 1 億美元的收入。
新興運算能力供應商在 GPU 短缺中安靜獲利
三.新興計算電力供應商之間的差異化競爭
新興的計算電源供應商正在利用架構優勢和價格差異。除了 NVIDIA 的供應優勢之外,CoreWeave 和 Lambda 的快速增長可歸因於它們與三個主要公司相比的差異化競爭,包括架構和價格差異。
CoreWeave 聲稱自動擴展功能(部分基於其無服務器協調技術和 NVIDIA 的 InfiniBand 網絡),而 CoreWeave 聲稱專門為 NVIDIA GPU 設計了叢集。這使客戶能夠比微軟和亞馬遜更快地存取 NVIDIA GPU 叢集。
CoreWeave 提供 1-3 年的保留執行個體 (RI) 合約,並為客戶提供折扣。他們的 A100 的定價範圍為每小時 1.10 美元至 1.40 美元,而 H100 的價格範圍為每小時 2.00 美元至 2.20 美元。相比之下,Lambda GPU 的每小時費率較低,但它們的軟件堆疊不成熟。
Lambda 在基礎設施方面與 CoreWeave 不同。Lambda 專注於提供快速檔案系統儲存和 GPU 等關鍵服務,以更快地滿足市場需求。這是其快速增長的原因之一。
Lambda 提供全球最便宜的 GPU 雲端服務,包括每小時 1.89 美元的 H100 以及內部部署 AI 運算叢集。如果用戶達到 100% 的使用率,價格可以進一步降低。Lambda 始終保持高的使用率,使他們能夠提供實惠的價格。相反,許多較大的雲端供應商傾向於過度佈建,導致峰值容量更高,但也會因未使用的容量產生成成本,以支援價格波動和低資源使用率。
4.結論
人工智能目前的普及導致了對 GPU 的巨大需求。但是,由於供應短缺,Nvidia 目前是市場上唯一的供應商,這可能導致臨時的獨資狀況。
CoreWeave 和 Lambda 實驗室等新興的私有雲 GPU 基礎架構供應商正在迅速獲得吸引力。由於其建築優勢和價格差異,他們吸引了科技投資者的注意,並經歷了快速的業務增長。目前,新興的計算能力供應商和三個雲端巨頭都在合作關係,但未來也有可能成為競爭性關係。
雖然 GPU 供應限制可能會持續一段時間,但從長遠來看,供給和需求之間的不平衡可能會隨著供應和技術進步的增加緩。
免責聲明:社區由Moomoo Technologies Inc.提供,僅用於教育目的。 更多信息
8
+0
1
原文
舉報
瀏覽 5.1萬
評論
登錄發表評論