AI 异构融合算力概念入门(第一篇) 2024

文章预览

欢迎关注   近年来，自动驾驶、元宇宙、人工智能等应用不断创新发展，数据规模、算法复杂度 以及算力需求爆发式增长。 各类加速处理器已成为算力基础设施的重要组件，基于  CPU+xPU  的异构计算系统逐渐成为各算力场景的主流架构。 然而，随着异构计算系统的种 类和数量越来越多， xPU  性能与灵活性难以兼顾、各  xPU  间计算孤岛问题难以协同、调试 和维护成本增高等问题愈发凸显，亟需从异构融合计算方向加强理论研究和实践探索。 以人工智能发展为例， Nature Electronics  期刊在  2022  年  4  月的一篇文章显示:从  2018  年开始，随着  AI  大模型应用的涌现，算力需求平均每  2  个月翻一倍;摩根士丹利估计 “ 2022  年谷歌的  3.3  万亿次搜索，平均成本约为每个  0.2  美分”， John Hennessy  表示“基 于大模型搜索的成本是标准关键 ………………………………