商汤大装置昇腾原生开发实践：集群规模扩展至3倍，线性加速比超97%

文章预览

集群规模扩展至 3 倍后线性加速比高达 97% 以上、 102B 模型训练性能达业界 120% 以上……这是商汤基于昇腾计算生态的最新成果。 近日， 商汤大装置事业群研发总监张行程受邀出席华为全联接大会2024并发表演讲，带来了商汤大模型基于昇腾原生开发实践的主题分享 。 大会上，国际权威数据机构IDC还发布了《AI时代数据中心网络白皮书》，其中介绍了商汤与华为共同解决Al时代数据中心网络建设挑战，以大规模连接性、智能负载均衡等能力，提高大规模集群吞吐量，提升训练效率，实现AI大模型的快速迭代。 ▎ 高效大模型原生开发 历年来，商汤基于昇腾计算生态，共同推进基础模型、行业大模型应用与创新。 例如，商汤通过高效并行、通信优化及网络架构感知和任务调度等软硬优化技术，构建了大规模并行训练加速系统， 其中102B模型的训练性 ………………………………