文章预览
9月5日消息,在即将到来的2024全球AI芯片峰会上,壁仞科技将隆重揭晓其自主研发的异构GPU协同训练技术—— HGCT,这是业界首次支持3种及以上(壁仞GPU+英伟达GPU+其他国产芯片)异构GPU同时训练一个大模型。 HGCT方案不仅首次实现了行业内前所未有的壮举,即支持3种或更多来自不同厂商、不同型号的异构GPU同时参与同一大型模型的训练,还通过一套高效统一的方案,跨越了技术鸿沟,让多样化的算力资源得以无缝整合。 壁仞科技的HGCT技术以其卓越的异构协同通信效率和端到端训练性能脱颖而出,通信效率超过98%,训练效率稳定在90-95%之间,这一成就彻底打破了大型AI模型在异构算力环境下所面临的“孤岛”困境,为AI训练的效率与灵活性树立了新的标杆。 据壁仞科技副总裁兼AI软件首席架构师丁云帆介绍,HGCT方案首次将壁仞GPU、英伟达GPU以及其
………………………………