NVDA
英偉達
-- 134.250 AVGO
博通
-- 224.800 TSLA
特斯拉
-- 436.230 PLTR
Palantir
-- 76.070 AMD
美國超微公司
-- 126.910 
Musk先生的xAI計劃將其超級計算機“Colossus”擴展到10倍規模，搭載了NVIDIA的100萬個GPU - 財經時報報道
英國《金融時報》(FT)當地時間5日報道，由埃隆·馬斯克所領導的人工智能創業公司xAI正計劃將現有的超級計算機“Colossus”擴展至10倍規模。
根據計劃，擴建後的系統將安裝100萬台NVIDIA $NVDA的GPU。擴建工程已經在田納西州孟菲斯開始進行，而NVIDIA、戴爾科技$DELL、超微電腦$SMCI等公司計劃在當地設立基地提供支援。
目前的Colossus配備了超過10萬台的NVIDIA GPU，並在今年年初僅用了短短3個月的時間進行建設。NVIDIA $NVDA的CEO黃仁勳對該報紙表示：“這種規模的數據中心建設通常需要3年時間。”
FT估算，新GPU採購將需要數百億美元的投資。xAI今年融資約110億美元，已被估值450億美元。競爭對手情況如下，OpenAI與微軟達成約140億美元的合作伙伴關係，Anthropic最近從亞馬遜獲得80億美元投資，以確保對10萬個以上的ai芯片的訪問權。
另一方面，對於該項目，也有人擔心審批程序的合理性以及對地區電力網的負擔。對此，xAI的Brent Mayo先生解釋說，他們將利用Mega Pack技術確保電力網的穩定性，FT報道。
📍xAI的巨額投資引發了對“規模”和“效率”的質疑
在AI模型性能的提升中，“擴展定律”是必不可少的。模型大小、數據集、計算量三要素密切相關，計算資源增加可提高性能的事實衆所周知。
然而，這種方法存在侷限性。正如DeepMind的“Chinchilla”論文所示，模型大小的擴大並非總能有效提高性能。相反，可能會出現由於“過多參數化”而導致的效率不高。xAI的巨額投資，可能並非單純追求規模，而是在實現這種“最佳平衡”方面有所意義。
要實現計算資源的有效利用，模型架構的優化至關重要。正如Transformer的演進所證明的那樣，提高計算效率與算法和架構創新密切相關。此外，分佈式學習系統的有效化和數據質量的提高也起着重要作用。
從這些角度來看，xAI的工作旨在實現超越“規模擴大”的新效率。特別是，這次投資似乎具有作爲尋找下一代AI開發方法的項目的性質，而非簡單增加計算資源。
xAI的巨大投資可能會對整個AI產業生態系統產生影響。OpenAI和Anthropic等競爭對手，通過與英偉達、微軟和亞馬遜的合作，已獲得大量計算資源。這種競爭可能孕育出AI產業的新秩序。
特別值得一提的是，這些舉措在增強“資源集中型”競爭結構方面具有重要意義。擁有大量計算資源的公司掌握市場優勢，中小規模玩家如何展現存在感將成爲未來重要的主題。此外，這將對整個AI產業產生怎樣的影響，將在幾年內明朗化。
對投資者來說，重要的不僅是這類大規模項目的成敗。而是要識別“規模擴大 vs 效率化”這一根本問題。無論xAI賭注成功與否，這一嘗試都將爲整個AI產業的發展提供新的見解。我們需要充分利用通過此舉獲得的洞察。
根據計劃，擴建後的系統將安裝100萬台NVIDIA $NVDA的GPU。擴建工程已經在田納西州孟菲斯開始進行，而NVIDIA、戴爾科技$DELL、超微電腦$SMCI等公司計劃在當地設立基地提供支援。
目前的Colossus配備了超過10萬台的NVIDIA GPU，並在今年年初僅用了短短3個月的時間進行建設。NVIDIA $NVDA的CEO黃仁勳對該報紙表示：“這種規模的數據中心建設通常需要3年時間。”
FT估算，新GPU採購將需要數百億美元的投資。xAI今年融資約110億美元，已被估值450億美元。競爭對手情況如下，OpenAI與微軟達成約140億美元的合作伙伴關係，Anthropic最近從亞馬遜獲得80億美元投資，以確保對10萬個以上的ai芯片的訪問權。
另一方面，對於該項目，也有人擔心審批程序的合理性以及對地區電力網的負擔。對此，xAI的Brent Mayo先生解釋說，他們將利用Mega Pack技術確保電力網的穩定性，FT報道。
📍xAI的巨額投資引發了對“規模”和“效率”的質疑
在AI模型性能的提升中，“擴展定律”是必不可少的。模型大小、數據集、計算量三要素密切相關，計算資源增加可提高性能的事實衆所周知。
然而，這種方法存在侷限性。正如DeepMind的“Chinchilla”論文所示，模型大小的擴大並非總能有效提高性能。相反，可能會出現由於“過多參數化”而導致的效率不高。xAI的巨額投資，可能並非單純追求規模，而是在實現這種“最佳平衡”方面有所意義。
要實現計算資源的有效利用，模型架構的優化至關重要。正如Transformer的演進所證明的那樣，提高計算效率與算法和架構創新密切相關。此外，分佈式學習系統的有效化和數據質量的提高也起着重要作用。
從這些角度來看，xAI的工作旨在實現超越“規模擴大”的新效率。特別是，這次投資似乎具有作爲尋找下一代AI開發方法的項目的性質，而非簡單增加計算資源。
xAI的巨大投資可能會對整個AI產業生態系統產生影響。OpenAI和Anthropic等競爭對手，通過與英偉達、微軟和亞馬遜的合作，已獲得大量計算資源。這種競爭可能孕育出AI產業的新秩序。
特別值得一提的是，這些舉措在增強“資源集中型”競爭結構方面具有重要意義。擁有大量計算資源的公司掌握市場優勢，中小規模玩家如何展現存在感將成爲未來重要的主題。此外，這將對整個AI產業產生怎樣的影響，將在幾年內明朗化。
對投資者來說，重要的不僅是這類大規模項目的成敗。而是要識別“規模擴大 vs 效率化”這一根本問題。無論xAI賭注成功與否，這一嘗試都將爲整個AI產業的發展提供新的見解。我們需要充分利用通過此舉獲得的洞察。
參考
免責聲明：社區由Moomoo Technologies Inc.提供，僅用於教育目的。
更多信息
評論
登錄發表評論
Magnificent7 : 無窮無盡的人工智能之巔之戰
呢？
日本企業
Kimihiko 樓主 Magnificent7 : 軟銀
Jamaica no problem : 感受到夾雜着末世感和未來感的東西。通過英偉達，似乎會推出一些令人難以置信的物品和武器。
Magnificent7 Kimihiko 樓主 : 一定是這個選擇
Magnificent7 Jamaica no problem : 很久沒有想看《黑客帝國》的電影了
Jamaica no problem Magnificent7 :![[呲牙]](https://static.moomoo.com/nnq/emoji/static/image/default/default-black.png?imageMogr2/thumbnail/36x36 "呲牙")
NOIR(のあ) Magnificent7 : 我也是SBG的支持者。我們已經有很長時間的合作了。在日本，SBG擁有ARM，並且正在推動AX集成。業態正在不斷變化，專注於人工智能。