专栏名称: 脑极体
你的困惑,来自于无路贴近未知。我们在技术、思想、传播的异界,贩来极限脑量下的TMT。
今天看啥  ›  专栏  ›  脑极体

智算网络谜题,与“解密者”新华三

脑极体  · 公众号  ·  · 2024-07-11 20:38
    

文章预览

根据高盛研究公司(GSR)数据报告显示,AIGC将推动全球国民生产总值(GDP)增长7%,带来近7万亿美元的GDP增长,并在未来使生产力提高1.5%。面对如此巨大的价值涌现,每个行业、每家企业都希望率先推开AI时代之门。 而在面向AI大模型的探索中,智算的效率与成本成为关键问题。根据相关数据,每建设100P算力的集群,成本就要达到4亿人民币。根据此前OpenAI披露的数据,ChatGPT平均每天的训练算力花费达到了70万美元。 目前阶段,在AI算力价格持续上涨的大背景下,千卡、万卡训练集群已经成为常态。智算集群开始向五万卡演进,并且异构化开始成为智算集群的新常态。然而我们可以看到,有大量AI算力因智算网络的丢包问题被浪费,网络故障成为拖慢模型训练进度的常见因素,如何让网络适配异构算力成为重要难题。 可以说,智算网络已经成为AI ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览