NVDA
英伟达
-- 134.250 AVGO
博通
-- 224.800 TSLA
特斯拉
-- 436.230 PLTR
Palantir
-- 76.070 AMD
美国超微公司
-- 126.910 
Musk先生的xAI计划将“巨人”扩大到10倍规模，搭载了NVIDIA $NVDA的100万个GPU - FT报道
英国金融时报（FT）报道称，由Elon Musk领导的人工智能创业公司xAI正在计划将现有的超级计算机"Colossus"扩大10倍。
根据计划，扩建后的系统将预计配备100万架NVIDIA $NVDA GPU。扩建工程已经在田纳西州孟菲斯开始进行，NVIDIA、Dell Technologies $DELL、Super Micro Computer $SMCI都计划在当地设立基地提供支持。
目前的Colossus配备了超过10万个NVIDIA GPU，并且在今年年初仅用了短短3个月的时间进行了构建。NVIDIA $NVDA的Jensen Huang CEO向该报纸表示，"构建这种规模的数据中心通常需要3年时间"。
FT估算，新GPU采购需要数百亿美元的投资。xAI今年已筹集约110亿美元资金，企业价值评估为450亿美元。在竞争对手方面，OpenAI与微软达成大约140亿美元的合作伙伴关系，Anthropic最近从亚马逊获得80亿美元的投资，以确保获得超过10万个AI芯片的访问权。
另一方面，对于该项目，一些人担心许可程序的合理性以及对地区电力网的负荷。与此相应的，xAI的Brent Mayo先生解释说将利用MegaPack技术来确保电力网的稳定性，FT报道。
📍xAI的巨额投资引发了对“规模”和“效率”的质疑
在提升AI模型性能方面，“扩展法则”不可避免。模型大小、数据集和计算量这三要素是紧密相关的，计算资源的增加会有效提升性能是众所周知的事实。
但是，这种方法存在着局限性。正如DeepMind的“Chinchilla”论文所指出的，模型大小的增加并不一定会带来有效的性能提升。相反，可能会由于缺乏与数据量的平衡而导致“过度参数化”造成的低效。xAI的巨额投资，可能意味着不仅仅是追求规模，而是作为实现这种“最佳平衡”的实验场所。
为了高效利用计算资源，优化模型架构至关重要。正如Transformer的演进证明的那样，提高计算效率密不可分地与算法和架构革新相关。此外，分布式训练系统的高效化和数据质量的提升也起着重要作用。
从这些角度来看，xAI的努力旨在实现不仅仅是“规模扩大”，还在追求新的效率化。特别是，这次的投资似乎具有作为探索下一代AI开发方法的项目的性质，而不仅仅是简单增加计算资源。
xAI的巨额投资有可能带来整个AI行业生态系统的变化。OpenAI和Anthropic等竞争对手，通过与NVIDIA、微软、亚马逊的合作，获得了大量的计算资源。这种竞争可能孕育着塑造AI产业新秩序的可能性。
值得一提的是，这些举措强化了“资源集中型”竞争结构。在拥有大量计算资源的企业掌握市场优势的情况下，中小规模的玩家如何展示存在感，将成为未来的重要主题。此外，这将对整个AI产业产生什么影响，将在几年内明朗化。
对投资者来说，重要的不仅是大型项目的成功与否。更重要的是要认识到背后的“规模扩大vs效率化”这个根本性问题。无论xAI的赌局是成功还是失败，这一尝试都将为整个AI产业的发展提供新的见解。我们需要充分利用通过这一过程获得的洞察。
根据计划，扩建后的系统将预计配备100万架NVIDIA $NVDA GPU。扩建工程已经在田纳西州孟菲斯开始进行，NVIDIA、Dell Technologies $DELL、Super Micro Computer $SMCI都计划在当地设立基地提供支持。
目前的Colossus配备了超过10万个NVIDIA GPU，并且在今年年初仅用了短短3个月的时间进行了构建。NVIDIA $NVDA的Jensen Huang CEO向该报纸表示，"构建这种规模的数据中心通常需要3年时间"。
FT估算，新GPU采购需要数百亿美元的投资。xAI今年已筹集约110亿美元资金，企业价值评估为450亿美元。在竞争对手方面，OpenAI与微软达成大约140亿美元的合作伙伴关系，Anthropic最近从亚马逊获得80亿美元的投资，以确保获得超过10万个AI芯片的访问权。
另一方面，对于该项目，一些人担心许可程序的合理性以及对地区电力网的负荷。与此相应的，xAI的Brent Mayo先生解释说将利用MegaPack技术来确保电力网的稳定性，FT报道。
📍xAI的巨额投资引发了对“规模”和“效率”的质疑
在提升AI模型性能方面，“扩展法则”不可避免。模型大小、数据集和计算量这三要素是紧密相关的，计算资源的增加会有效提升性能是众所周知的事实。
但是，这种方法存在着局限性。正如DeepMind的“Chinchilla”论文所指出的，模型大小的增加并不一定会带来有效的性能提升。相反，可能会由于缺乏与数据量的平衡而导致“过度参数化”造成的低效。xAI的巨额投资，可能意味着不仅仅是追求规模，而是作为实现这种“最佳平衡”的实验场所。
为了高效利用计算资源，优化模型架构至关重要。正如Transformer的演进证明的那样，提高计算效率密不可分地与算法和架构革新相关。此外，分布式训练系统的高效化和数据质量的提升也起着重要作用。
从这些角度来看，xAI的努力旨在实现不仅仅是“规模扩大”，还在追求新的效率化。特别是，这次的投资似乎具有作为探索下一代AI开发方法的项目的性质，而不仅仅是简单增加计算资源。
xAI的巨额投资有可能带来整个AI行业生态系统的变化。OpenAI和Anthropic等竞争对手，通过与NVIDIA、微软、亚马逊的合作，获得了大量的计算资源。这种竞争可能孕育着塑造AI产业新秩序的可能性。
值得一提的是，这些举措强化了“资源集中型”竞争结构。在拥有大量计算资源的企业掌握市场优势的情况下，中小规模的玩家如何展示存在感，将成为未来的重要主题。此外，这将对整个AI产业产生什么影响，将在几年内明朗化。
对投资者来说，重要的不仅是大型项目的成功与否。更重要的是要认识到背后的“规模扩大vs效率化”这个根本性问题。无论xAI的赌局是成功还是失败，这一尝试都将为整个AI产业的发展提供新的见解。我们需要充分利用通过这一过程获得的洞察。
参考
免责声明：社区由Moomoo Technologies Inc.提供，仅用于教育目的。
更多信息
评论
登录发表评论
Magnificent7 : 无穷尽的人工智能之巅之战
呢？
日本企业
Kimihiko 楼主 Magnificent7 : 软银
Jamaica no problem : 感觉到了融合了世纪末氛围和未来感的东西。通过英伟达，似乎会有一些惊人的物品和武器出现
Magnificent7 Kimihiko 楼主 : 一定是这个选择
Magnificent7 Jamaica no problem : 好久没看《黑客帝国》系列电影，突然又想看了
Jamaica no problem Magnificent7 :![[呲牙]](https://static.moomoo.com/nnq/emoji/static/image/default/default-black.png?imageMogr2/thumbnail/36x36 "呲牙")
NOIR(のあ) Magnificent7 : 我也是SBG的支持者。我们已经有很长时间的合作关系了。在日本，SBG控股了ARM，也在推动AX Integrated。业态不断变化，开始专注于人工智能。