中国智算建设潮背后，谁在推动十万卡集群

主要观点总结

本文介绍了中国云厂商在打造十万卡集群方面的进展和考虑。随着大模型技术的兴起，企业对算力的需求日益增长，云厂商面临压力，国内云计算厂商采取更理性和现实的做法。文章详细描述了企业智算投资的热情、车企和教育的应用案例、云厂商面临的挑战和诉求，以及国内云厂商如何解决十万卡集群的技术难题。同时，文章还提到了大模型正在进入更多产业，企业对算力的性能和成本提出进一步诉求的情况。

关键观点总结

关键观点1: 中国云厂商在打造十万卡集群上的进展和考量

随着大模型的兴起，中国云厂商开始积极准备技术储备，解决龙头企业对算力的需求。他们通过解决高速网络互联、集群稳定性、资源利用率、大模型训练和推理工具等需求，来应对大模型带来的技术挑战。同时，他们也面临着海外市场的竞争压力，需要不断提升技术水平以应对未来的市场需求。

关键观点2: 企业智算投资的应用案例

企业智算投资的应用案例包括车企、教育行业和餐饮行业等。车企通过智驾技术提高研发效率，教育行业通过大模型实现个性化学习推荐，餐饮企业则采用AI客服系统解决服务需求。这些应用案例展示了大模型技术在各行各业的应用前景。

关键观点3: 云厂商面临的挑战和诉求

云厂商面临着算力需求高速增长的压力，需要解决龙头企业在算力上的问题。他们的诉求包括提供稳定的平台、提高资源利用率、追求技术创新等。同时，他们也面临着成本的压力，需要通过技术创新来降低企业的成本。

关键观点4: 国内云厂商如何解决十万卡集群的技术难题

国内云厂商通过解决跨地域机房部署、一云多芯混合训练效能折损等技术难题，来应对十万卡集群的挑战。他们采用高效拓扑结构、跨地域无拥塞高性能网络和高效模型并行训练等方案，实现十万卡集群的高效运行。

关键观点5: 大模型技术的发展趋势和企业应对策略

大模型技术正在进入更多产业，企业需要根据自身需求和实际情况调整策略。一些国内龙头企业已经开始将更多精力转向强化学习，以降低模型训练对算力的需求。同时，公有云仍是企业进行大模型训练的主流方式，云厂商需要提高资源利用率、降低成本，以更好地满足企业的需求。

文章预览

文｜赵艳秋 编｜牛慧 中国云厂商在十万卡集群上表现得更为理性，是什么在推动它们展开技术准备？ ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍ ‍‍‍ ‍‍‍ 在打造十万卡集群上，几家国内头部企业已有动作。   在11月12日举办的百度世界2024大会上，百度集团执行副总裁、百度智能云事业群总裁沈抖透露，为了支撑大模型进一步的高速发展， 百度在打磨十万卡集群能力方面，已在两大问题上取得关键突破 。与此同时，字节和阿里在智算上投入巨大，今年以来，华为也联合厂商在攻克更大规模集群。   是否有必要打造十万卡集群？过去24个月，由于大模型超级应用还未出现，中国业界出现了反思——大模型全球性的狂热，究竟是一场新的技术革命，还是新一轮泡沫？   在这次大会上，百度创始人李彦宏披露了一个数字，文心大模型 ………………………………