一文了解"智算中心"方案设计-【中篇】

文章预览

一文了解"智算中心"方案设计-【上篇】 七、方案设计—算力规划 智算中心方案的核心就是算力规划，算力的单位是什么？用GPU的哪个精度来算呢？不同的发展阶段，对算力默认定义是有差异的。结合个人理解概况如下： 1、HPC视角：我们以FP64算力精度作为标准，早些年以CPU芯片为主（CPU核心*主频*系数），后来随着GPU技术发展，以NV Tesla系列GPU为例使得算力规模和密度大幅提升。 2、 智算中心： 智算中心以AI为主，常见场景有训练和推理，对算力精度的需求也有差异，如下图，常见的有FP32、TF32、FP16、BF16、INT8等， GPU卡的算力通常有多个数值，主要是因为在不同的浮点精度上表现的算力(每秒计算次数)是有所不相同，比如我们通常将FP16（半精的）作为智算中心方案的算力标准精度，当然部分客户要求必须是稠密算力，有的客户接受稀疏算力，以A800 ………………………………