TensorWave的首席執行官兼聯合創始人Darrick Horton認爲該公司競爭優勢明顯,因爲AMD MI300X的價格比當前最受歡迎的英偉達GPU H100便宜得多,而且MI300X 在運行(但不是訓練)AI模型方面優於H100。該公司估值已達1億美元,預計年底經常性收入將達到2500萬美元,增長8倍。
AI熱潮方興未艾,讓英偉達成爲當仁不讓的霸主,該公司的GPU已成爲各種規模的AI公司首選的芯片。然而,媒體報道,成立於去年年底的公司TensorWave正在逆流而上,推出了一個僅提供英偉達競爭對手AMD硬件的雲服務,處理AI工作負載。
TensorWave的首席執行官兼聯合創始人Darrick Horton在接受TechCrunch採訪時表示:
「我們意識到這是一個不健康的壟斷現象,這是一個導致最終用戶無法獲得計算資源並抑制AI領域創新的現象。出於我們希望AI大衆化的願望,我們決定提供一個可行的替代方案,恢復競爭和選擇權。」
落戶賭城
根據報道,Horton與TensorWave的其他兩位聯合創始人Jeff Tatarchuk和Piotr Tomasik是通過Pickleball運動認識的,隨後就GPU算力的壟斷導致供應限制的問題達成共識,最終促使TensorWave。
TensorWave總部位於拉斯維加斯,對於一家雲基礎設施初創公司來說,這是一個不尋常的選擇。但Horton表示,團隊看中了這個機會。「我們認爲拉斯維加斯有潛力成爲一個蓬勃發展的技術和初創公司生態系統。」
這個預測並非完全脫離現實。根據Dealroom.co的數據,拉斯維加斯擁有600多家初創公司,僱傭了11,000多名員工,並在2022年吸引了超過40億美元的投資。
與許多美國主要城市相比,拉斯維加斯的能源成本和運營費用也較低。此外,Tomasik和Tatarchuk與當地的風險投資社區有着緊密的聯繫。
Tomasik之前曾是總部位於拉斯維加斯的種子基金1864 Fund的普通合夥人,現在與非營利加速器StartUp Vegas和Vegas Tech Ventures合作。Tatarchuk是孵化器機構Fruition Lab的天使投資人。
這些聯繫幫助TensorWave成爲了市場上首批提供AMD Instinct MI300X實例處理AI工作負載的雲服務之一。TensorWave提供按小時租用GPU計算資源的服務,並要求至少六個月的合同期限。
以AMD爲中心
媒體報道,目前低成本、按需服務的GPU雲市場正在蓬勃發展。而Horton表示,TensorWave的競爭優勢明顯。
首先是價格。Horton指出,AMD MI300X的價格比當前最受歡迎的英偉達GPU H100便宜得多,這使得TensorWave能夠將節省的成本傳遞給客戶。他沒有透露TensorWave的具體實例定價,但如果想要打敗H100,定價必須低於2.50美元/小時。
其次是性能。Horton引用了基準測試數據,顯示MI300X 在運行(但不是訓練)AI模型方面優於H100,尤其是在像Meta的Llama 2這樣的文本生成模型上。
除了TensorWave,其他押注AMD AI芯片的公司包括初創公司Lamini和Nscale,以及更大型、根基更深厚的雲供應商,如Azure 和Oracle。
分析認爲,當前對AMD芯片使用者的有利因素是英偉達GPU持續短缺,以及英偉達即將推出的Blackwell芯片的延遲。不過,隨着關鍵芯片組件(特別是內存)的製造加速,短缺可能很快會緩解。這將使英偉達能夠加大H200的出貨量,這款新品的性能得到了顯著提升。
對於依賴AMD硬件的新興雲服務商來說,另一個存在的挑戰是如何跨越英偉達圍繞AI芯片構建的競爭壁壘。業界普遍認爲,英偉達的開發軟件更爲成熟且更易於使用,並且已被廣泛部署。甚至AMD首席執行官蘇姿豐也承認,採用AMD芯片「需要付出努力」。
更遠的前景來看,隨着超大規模公司增加對定製硬件的投資,專注於價格競爭的挑戰可能會日益艱難。例如,Google提供其TPU;微軟最近推出了兩個定製芯片Azure Maia和Azure Cobalt;而亞馬遜AWS擁有Trainium、Inferentia和Graviton。
但Horton表示:
「隨着開發人員尋求能夠有效處理其AI工作負載的替代方案,尤其是在內存和性能需求增加的情況下,加上生產問題導致的延誤,AMD將在未來更長時間內保持領先地位,並在AI時代的計算大衆化中發揮關鍵作用。」
預計年底經常性收入增長8倍 估值已達1億美元
TensorWave目前已有300萬美元的年經常性收入。Horton表示,一旦TensorWave將其MI300X的容量提高到20000個,預計到經常性收入年底將達到2500萬美元,增長8倍。
假設每個GPU的成本爲15000美元,那麼20000個MI300X將意味着一筆3億美元的投資,然而Horton聲稱,TensorWave的資金消耗率「完全在可持續水平內」。TensorWave此前曾表示,將使用其GPU作爲大規模債務融資的抵押品,這是其他數據中心運營商採用的一種方法,Horton 表示這仍然是該公司計劃的一部分。
他繼續說道:
「這反映了我們強勁的財務健康狀況。我們通過在最需要的地方提供價值,戰略性地定位自己,以應對潛在的逆風。」
不過,當被問道TensorWave目前有多少客戶時,Horton由於「保密原因」拒絕回答,但強調了TensorWave已公開宣佈的與網絡骨幹供應商Edgecore Networks和由前Neuralink工程師創立的AI推理初創公司MK1的合作伙伴關係。
Horton表示,該公司正在迅速擴大算力,以滿足日益增長的需求。他還補充道,TensorWave計劃在今年年底開始使用的AMD可能在四季度推出的下一代MI325X GPU。
投資者對TensorWave的增長軌跡表示滿意。Nexus VP在週三透露,該機構領投了一輪4300萬美元的融資,參與者還包括Maverick Capital、StartupNV、Translink Capital和AMD Ventures。這是TensorWave的第一輪融資,融資後該公司的估值達到1億美元。