专栏名称: 半导体行业联盟
半导体行业联盟(icunion)属半导体产业链俱乐部, 分享半导体行业资讯动态,半导体企业名录,半导体行业协会报告,半导体行业论坛研究报告等信息
今天看啥  ›  专栏  ›  半导体行业联盟

中国首个!壁仞+英伟达+其他!

半导体行业联盟  · 公众号  · 半导体  · 2024-09-05 18:10

主要观点总结

壁仞科技将在2024全球AI芯片峰会上展示其自主研发的异构GPU协同训练技术——HGCT。该技术首次支持3种及以上异构GPU同时训练一个大模型,通信效率超过98%,训练效率稳定在90-95%之间。壁仞科技构建了软硬一体化、全栈优化的大模型解决方案,能够处理千亿级参数模型训练,自动断点续训时间缩短至10分钟以内,并保障连续15天无中断、4天无故障的训练。该方案为AI训练带来高效与灵活,推动算力资源的高效利用,加速AI技术的普及与应用。

关键观点总结

关键观点1: 壁仞科技将展示自主研发的异构GPU协同训练技术——HGCT

HGCT技术是业界首次支持3种及以上异构GPU同时训练一个大模型的方案,实现了前所未有的壮举。

关键观点2: HGCT技术的高效率和性能

HGCT技术的通信效率超过98%,训练效率稳定在90-95%之间,打破了大型AI模型在异构算力环境下的“孤岛”困境。

关键观点3: 壁仞科技构建了软硬一体化的大模型解决方案

该方案能够处理千亿级参数的模型训练,自动断点续训时间缩短至10分钟以内,连续训练15天无中断、4天无故障。

关键观点4: HGCT方案的影响和意义

该方案为AI训练带来高效与灵活,推动算力资源的高效利用,加速AI技术的普及与应用,为AI行业树立了新的技术标杆。


文章预览

9月5日消息,在即将到来的2024全球AI芯片峰会上,壁仞科技将隆重揭晓其自主研发的异构GPU协同训练技术—— HGCT,这是业界首次支持3种及以上(壁仞GPU+英伟达GPU+其他国产芯片)异构GPU同时训练一个大模型。 HGCT方案不仅首次实现了行业内前所未有的壮举,即支持3种或更多来自不同厂商、不同型号的异构GPU同时参与同一大型模型的训练,还通过一套高效统一的方案,跨越了技术鸿沟,让多样化的算力资源得以无缝整合。 壁仞科技的HGCT技术以其卓越的异构协同通信效率和端到端训练性能脱颖而出,通信效率超过98%,训练效率稳定在90-95%之间,这一成就彻底打破了大型AI模型在异构算力环境下所面临的“孤岛”困境,为AI训练的效率与灵活性树立了新的标杆。 据壁仞科技副总裁兼AI软件首席架构师丁云帆介绍,HGCT方案首次将壁仞GPU、英伟达GPU以及其 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览