大摩認爲，GPU供應仍然比較緊張，需求繼續超過供應。過去6個月中H100租賃價格有所下降，但價格的絕對水平表明硬件的投資回報率非常高，回本期在一年以內。
本文作者：蔣紫涵
來源：硬AI
AI熱潮推升算力需求，GPU租賃到底掙不掙錢？
8月27日，摩根士丹利Joseph Moore及其團隊發佈報告稱，
GPU租賃市場目前仍然供不應求，投資回報率（ROI）極高，雖然H100的租賃價格有所下降，但價格的絕對水平表明回本期在一年以內。對數據中心投資者而言，英偉達仍是最安全的選擇。
保守估計下，投資數據中心會產生30%-50%的內部收益率。但是， GPU租賃在主流平台以外還存在更便宜的價格，這會影響到投資者的回報。
隨着越來越多的公司通過雲計算構建AI應用程序，生成式AI市場的重要組成部分——通信服務供應商（CSPs）和teri-2/3雲供應商（teri-2/3 clouds）在市場中的回報率越來越受到關注。
目前，GPU租賃分爲spot實例定價（spot instance pricing）和On-Demand實例定價（On-Demand instance pricing）。本次，大摩研究了市場上的GPU spot實例定價，以及一些GPU的供應來源，如第三方市場平台GPUlist.ai等。
GPU供不應求，資回報率極高
根據收集到的數據，大摩認爲，GPU供應仍然比較緊張，需求繼續超過供應。如下圖所示，過去6個月中H100租賃價格有所下降，但價格的絕對水平表明硬件的投資回報率非常高，回本期在一年以內。
由於需求增加，H100現貨價格最初處於不切實際的高位，並隨着供應的改善逐漸下降。
大摩表示，如果這些spot實例定價是各GPU供應商在當前的清算價格，那麼AWS H100現貨每小時租賃價格約爲4.50美元意味着在保守估算下，投資新建100MW數據中心可能會產生30%-50%的內部收益率。
根據利潤邊際估算，2025年GPU IaaS可以實現50%以上的毛利率。這一回報相當具有吸引力，但是，投資者還關注回報的可持續性。隨着專注GPU雲計算的公司（如Coreweave、Lambda Labs等）繼續擴大規模，這個領域可能會變得更加重要。
英偉達曾表示，每1美元對他們GPU的投資，會在4年內產生高達5美元的收入。大摩認爲，這一估算過於理想化，因爲沒有考慮到租賃價格的下降以及GPU使用率未達到100%。
大摩假設：GPU租賃價格每年下降20%，H100的初始租賃價格爲每小時4美元，6年內利用率達到80%。基於以上三條假設，大摩估算一個耗資32億美元的新建100MW數據中心投資在6年內可以產生78億美元的收入，帶來38%的無槓桿稅前內部收益率。
GPU投資的高額回報下，問題仍在存在
大摩表示，雖然投資數據中心的內部收益率很高，但是投資者也不能過於樂觀，因爲在主要雲服務提供商之外，GPU租賃還有更便宜的價格。
根據GPU計算市場GPUlist.ai上的數據，H100的每小時租賃價格中位數爲2.27美元，比AWS上的價格低了80%以上。其他雲服務提供商如Paperspace，在3年承諾期內提供類似的低價。對於需要租賃數百萬小時的消費者來說，這是一個非常具有吸引力的折扣。
並且，GPU租賃通常與較少的軟件相關聯，這使得消費者更容易在雲服務之間切換，以追求最優價格。
還有一個問題是，GPU spot實例定價能否夠在各方面滿足消費者的需求。
在這一定價方式下，GPU的轉手率很高，它們似乎不適合用於訓練需要長時間穩定計算資源的大規模模型。此外，在列出的較低價格下，大摩表示他們不確定GPUlist.ai能否提供足夠的GPU來滿足消費者的需求。模型訓練往往存在嚴格的正常運行時間要求，這使得這些GPU很可能只能用於實驗或小規模模型的微調。
大摩還注意到，GPUlist.ai上列出的GPU中，使用InfiniBand（一種用於高性能計算的計算機網絡通信標準）的比例非常高，這說明英偉達的客戶群體不斷增長，在盈利方面會表現地更好。
英偉達仍是最安全的選擇
在大摩的理論數據中心模型下，爲了獲得相同的回報，雲服務提供商需要將Mi300X的價格設定在比H100低25-30%的水平。這表明AMD目前的定價是合理的，可以幫助AMD在市場中站穩腳跟。但是，這一領域對AMD的採納率將是決定其能否獲得長期成功的關鍵。
但是，與英偉達相比，價格低25%對於一次性使用案例來說並不具有決定性作用，因爲這可能需要額外的開發資源來完善AMD不太成熟的生態系統，而在AI市場中時間就是一切。
對於雲服務提供商而言，英偉達仍然是租賃市場中安全的選擇，因爲除英偉達以外的任何選擇，機會成本和風險都是巨大的。
本文來自微信公衆號「硬AI」，關注更多AI前沿資訊請移步這裏