专栏名称: 电子发烧友网
关注电子发烧友网,即时收听电子行业动态,抢先知晓半导体行业发生的最新事件。
今天看啥  ›  专栏  ›  电子发烧友网

异构混训整合不同架构芯片资源,提高算力利用率

电子发烧友网  · 公众号  ·  · 2024-07-18 07:00
    

文章预览

电子发烧友网报道(文/李弯弯)随着AI技术的飞速发展,大模型的训练和推理任务对算力的需求日益增长。然而,单一品牌的芯片往往难以满足所有需求,且可能存在供应链风险。因此,异构芯片混训成为了一种重要的解决方案。通过混合使用多种异构芯片,可以充分利用不同芯片的优势,提高算力利用率,降低算力成本,并推动AI技术的广泛应用。 异构混训能够整合不同架构芯片资源 在2024年世界人工智能大会AI基础设施论坛上,无问芯穹联合创始人兼CEO夏立雪发布了全球首个千卡规模异构芯片混训平台,千卡异构混合训练集群算力利用率最高达到了97.6%。 同时,无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览