探秘高通NPU，极致性价比与每瓦TOPS的AI加速器

文章预览

高通8gen3的die shot 图片来源：网络 上图是高通8gen3的die shot，其die size为10.71*12.81=137.19平方毫米，其中左边中间部分的低功率AI系统就是NPU，也就是高通的V73 AI系统，与高通的第三代车载芯片SA8650/8775/8770/8255的AI系统是完全一样的，算力为整数8位精度下45TOPS。SA8650可能是两个NPU。NPU的面积大致是整个芯片的1/13，大致为10平方毫米，而英伟达的Orin，整个芯片die size大约是455平方毫米，其中AI部分至少占一半面积，也就是220平方毫米，是高通NPU的22倍，但性能不过是高通的5.6倍，刨除英伟达Orin因为三星8纳米工艺带来的低密度，也按台积电4纳米的密度，应该是110平方毫米左右，性价比也严重落后高通。而每瓦TOPS，英伟达Orin也明显落后高通。 高通NPU架构 图片来源：高通 图片来源：高通在2023年Hot Chips上的Presentation 前段Front-End异常简洁。 典型x86或ARM CPU微架 ………………………………