个人中心
登出
中文简体
返回
登录后咨询在线客服
回到顶部
ARM连续四日走跌:芯片股怎么了?
浏览 50.5万 内容 68

GPU短缺期间,新兴的计算力供应商默默获利

avatar
Noah Johnson 参与了话题 · 2023/09/15 16:54
关注我在moomoo上的动态,获取最新信息并保持联系!
1. 人工智能正蓬勃发展,GPU短缺推动第三方计算服务提供商的增长
人工智能的蓬勃发展推动了对GPU的巨大需求,全球需求预计将增加10到100倍。过去五年中,由于加密货币的崛起和2020年的供应链危机,GPU一直供不应求。目前,AIGC和自动驾驶等领域的热潮进一步加剧了这种情况。因此,像微软这样的科技巨头也面临着GPU供应短缺的问题。
由于英伟达在GPU市场上的主导地位,其他厂商很难在AI模型训练方面与他们竞争。这可能导致一段时间的垄断局面,难以解决短期内GPU供应的限制问题。
英伟达的GPU面临供需失衡的挑战,这也推动了像CoreWeave和Lambda Labs这样新兴的GPU计算提供商的显著收入增长。预计人工智能推理计算功率的需求将大幅增加,可用的GPU数量也将增加。从长远来看,供应限制预计不会持续太长时间。然而,从模型训练的角度来看,短缺可能会持续存在。
GPU短缺期间,新兴的计算力供应商默默获利
2. CoreWeave和Lambda Labs的崛起
CoreWeave和Lambda Labs是新兴的私有云GPU计算提供商。用户可以在云端或本地数据中心访问英伟达的人工智能产品和服务。
GPU短缺期间,新兴的计算力供应商默默获利
CoreWeave和Lambda Labs与英伟达有着密切的联系。2023年4月,英伟达对CoreWeave进行了1亿美元的股权投资,而Lambda则在另一轮更大规模的融资中获得了3亿美元的投资。
CoreWeave,前身为Atlantic Crypto,最初专注于以太坊挖矿业务。他们通过购买大量英伟达GPU提供加密货币挖矿服务。2019年,由于Stability/Stable Diffusion等人工智能初创企业的需求增加,他们转向提供人工智能计算能力服务。OpenAI的ChatGPt的推出和生成式人工智能的兴起进一步推动了他们的业务收入。
CoreWeave的营业收入在2022年约为2500万美元,预计到2023年将达到约60000万美元。CoreWeave已调整其2023年的初步展望,降低了预计收入和资本支出,但增加了多年期承诺。这可能是由于CoreWeave面临的GPU供应限制。
Lambda Labs成立于2012年,2019年/2020年转型为人工智能计算提供商,提供基于云的GPU租用服务。从规模上看,Lambda比CoreWeave小,但预计2023年的收入将超过10000万美元。
GPU短缺期间,新兴的计算力供应商默默获利
3. 新兴计算能力提供商之间的差异化竞争
新兴计算能力提供商正在利用架构优势和价格差异。除了拥有NVIDIA的供应优势外,CoreWeave和Lambda的快速增长还归功于他们与包括架构和定价差异等三家主要厂商的差异化竞争。
CoreWeave声称已针对NVIDIA GPU设计了集群,提到了他们的自动扩展能力(部分基于他们的无服务器协调技术和NVIDIA的InfiniBand网络)。这使得客户能够比微软和亚马逊更快地访问NVIDIA GPU集群。
CoreWeave为客户提供1-3年的预留实例(RI)合约,并提供折扣。他们的A100的定价范围为每小时1.10-1.40美元,而H100的定价范围为每小时2.00-2.20美元。相比之下,Lambda的GPU小时费率较低,但他们的软件堆栈较不成熟。
Lambda在基础设施方面与CoreWeave不同。Lambda专注于提供快速的文件系统存储和GPU等关键服务,以更快地满足市场需求。这是其快速增长的原因之一。
Lambda提供全球最便宜的GPU云服务,包括每小时1.89美元的H100以及本地AI计算集群。如果用户实现100%利用率,价格还可以进一步降低。Lambda始终保持高利用率,使他们能够提供实惠的价格。相比之下,许多较大的云提供商往往过度配置,导致峰值容量提高,但也产生了未使用的资源支持价格波动和资源低利用率的成本。
4. 结论
人工智能的当前普及推动了对GPU的需求。然而,由于供应短缺,Nvidia目前是市场上唯一的供应商,这可能导致临时的垄断局面。
新兴的私有云GPU基础设施提供商,如CoreWeave和Lambda Labs,正在迅速获得市场份额。由于其架构优势和定价差异,它们吸引了科技投资者的注意,并经历了快速的业务增长。目前,新兴的计算力提供商与三大云巨头是合作关系,但未来也可能成为竞争关系。
虽然GPU供应约束可能持续一段时间,但从长远来看,供需失衡可能会随着供应的增加和技术的进步而得到缓解。
免责声明:社区由Moomoo Technologies Inc.提供,仅用于教育目的。 更多信息
8
+0
1
原文
举报
浏览 5.2万
评论
登录发表评论