英伟达 GPU 架构：演进与模型推理速度的深度关联

文章预览

英伟达的 GPU 架构演进之路充满了创新与突破。 ©作者 | Zane 来源 | 神州问学 一、 英伟达GPU的架构演进之路 1999 年，英伟达发布 Geforce256 图形处理芯片，首次提出 GPU 概念。早期的架构如 G80 或 GeForce 8800 GTX，包含 8 个 TPC，每一个 TPC 中有两个 SM，一共有 16 个 SM。随着技术的发展，GT200 或 GeForceGTX 280 增加了 TPC 中的 SM 数量。2012 年，Kepler 架构推出，从这一架构开始，NVIDIA 以往坚持的 Core：Shader = 1：2 的分频模式消失，SM 单元中的 CUDA 核心数大幅提升，如每组 SM 单元的 CUDA 核心数从 GF100 时代的 32 个提升到了 Kepler 时代的 192 个。同时，纹理单元、前端渲染单元等也相应增加，而且核心频率达到 1GHz 以上，不再需要 Shader 异步，降低了显卡功耗。2017 年，Volta 架构引入了 Tensor Core，专门用于执行张量计算，支持并行执行 FP32 与 INT32 运算，为人工智能和 ………………………………