在人工智能基础设施支出方面，培训胜过理由：伯恩斯坦
根据伯恩斯坦兴业银行集团的说法，尽管人工智能公司对构建大规模语言模型并继续扩展感到兴奋，但微软（纳斯达克： MSFT）、亚马逊网络服务（纳斯达克： AMZN）、谷歌（纳斯达克： GOOG)（纳斯达克： 谷歌）、元平台（纳斯达克： 元 ）的人工智能基础设施总支出预计将在2024年达到1,600亿美元。
投资者普遍认为推理支出将增加，但该领域的效率提高使伯恩斯坦认为培训成本已大幅增加。根据该公司的最新数据，推断仅占人工智能基础设施支出的5％左右。
伯恩斯坦发现，与之前的模型相比，新的LLM所需的基础设施成本约为10倍。例如，虽然OpenAI的 GPT-2 是在耗资约300万美元的芯片集群上训练的，但训练 GPT-3 需要价值约3000万美元的硬件。然后，GPT-4 在 25,000 架 A100 上进行了训练，耗资约 3 亿美元。
参照这段历史，伯恩斯坦确定训练 GPT-5 模型将需要 10 万台 Nvidia H100，成本约为 30 亿美元。相比之下，预计OpenAI将在2024年创造37亿美元的销售额。
投资者普遍认为推理支出将增加，但该领域的效率提高使伯恩斯坦认为培训成本已大幅增加。根据该公司的最新数据，推断仅占人工智能基础设施支出的5％左右。
伯恩斯坦发现，与之前的模型相比，新的LLM所需的基础设施成本约为10倍。例如，虽然OpenAI的 GPT-2 是在耗资约300万美元的芯片集群上训练的，但训练 GPT-3 需要价值约3000万美元的硬件。然后，GPT-4 在 25,000 架 A100 上进行了训练，耗资约 3 亿美元。
参照这段历史，伯恩斯坦确定训练 GPT-5 模型将需要 10 万台 Nvidia H100，成本约为 30 亿美元。相比之下，预计OpenAI将在2024年创造37亿美元的销售额。
免责声明：社区由Moomoo Technologies Inc.提供，仅用于教育目的。
更多信息
评论
登录发表评论
Magnificent7 : 厉害