计算力的需求由两部分组成:训练和推理。假设一个模型从0开始进行训练,需要800块英伟达A100显卡连续运行240天。A100服务器的月租费为50,000,训练这个模型的租金为3000万元。消耗计算力最多的环节是推理。一台英伟达A100服务器当前可以以高效率处理每秒20-30个字符。假设每天有1亿次访问量,每个人进行10次会话,假设回复的字数为150个字,则仅仅一台服务器处理这个访问量需要166万小时,所以至少需要69,400台服务器来处理这个访问量,租金需要每年400亿元。支撑13.5亿个单元。最新数据显示,21年全球超级计算力规模为14亿个单元。根据21年的数据,在全球范围内仅能支持1亿次每天的访问量,而国内超级计算力计算例子也仅为3亿个单元。