商湯(00020.HK)大裝置事業群研發總監張行程出席華為全聯接大會2024時表示，多年來商湯大模型基於昇騰原生開發進行實踐，共同推進基礎模型、行業大模型應用與創新，通過高效並行、通信優化及網絡架構感知和任務調度等技術改善，構建大規模並行訓練加速系統。
其中102B模型的訓練性能已達到業界的120%以上，同時單一任務集群規模擴展至3倍，算力效率損失僅為3%，線性加速比可高達97%以上。他又指，基於昇騰計算生態，商湯已建設長序列並行訓練加速機制，與業界相比，4K序列性能提升1倍以上，32K序列性能持平，更可處理128K長序列訓練。
他表示，通過與昇騰團隊合作，商湯已將全棧大模型生產能力產品化，構建從基礎層、模型層、串聯層到應用層的高效、完備、易用的大模型生產工具鏈。
商汤(00020.HK)大装置事业群研发总监张行程出席华为全联接大会2024时表示，多年来商汤大模型基于升腾原生开发进行实践，共同推进基础模型、行业大模型应用与创新，通过高效并行、通信优化及网络架构感知和任务调度等技术改善，构建大规模并行训练加速系统。
其中102B模型的训练性能已达到业界的120%以上，同时单一任务集群规模扩展至3倍，算力效率损失仅为3%，线性加速比可高达97%以上。他又指，基于升腾计算生态，商汤已建设长序列并行训练加速机制，与业界相比，4K序列性能提升1倍以上，32K序列性能持平，更可处理128K长序列训练。
他表示，通过与升腾团队合作，商汤已将全栈大模型生产能力产品化，构建从基础层、模型层、串联层到应用层的高效、完备、易用的大模型生产工具链。
使用浏览器的分享功能，分享给你的好友吧