干掉HBM?

文章预览

AI离不开HBM，这种看法正在不断深入人心。 本文授权转载自公众号“半导体行业观察”，ID：icbank，作者： 邵逸琦。 对于AI大模型训练来说，大量并行数据处理要求大算力和高带宽，算力决定了每秒处理数据的速度越快，而带宽决定了每秒可访问的数据，GPU负责提供算力，而存储器负责提供带宽 。 如今的局面是，大家可以不用英伟达的GPU，但绝对离不开海力士、三星或美光的HBM，英伟达虽然有CUDA这条护城河，但也不能完全阻止用户迁移向其他厂商，但HBM就不同了，不论是AMD还是英特尔，还是其他定制芯片，上面无一例外都嵌着密密麻麻的H BM。 但HBM并不是普通DRAM，它的价格早已到了一个令人咋舌的地步，在相同密度的情况下，HBM 的价格大约是DDR5的5倍，据了解，目前HBM成本在AI服务器成本中占比排名第三，约占9%，单机平均售价高达18000美元。 （ ………………………………