DeepSeek对数据中心基础设施的影响

文章预览

更多投研资料点击进入知识星球                   。 转 星球内每日更新内容超300条 发文章至朋友圈或微信群，即可免费获得一周调研纪要合辑 星球内每日更新内容超300条 Q： 我们看到国际上有很厉害的 AI 相关公司的 大领导说过，对于算力成本，在训练和推理方面，推理的算力成本可能要达到训练的 5 ~ 6 倍，不知道 DeepSeek 有 没有可能节约一部分训练成本，但是在推理角度会造成更大规模的算力需求呢？ A： 关于训练和推理的成本，训练成本高是和其架构、算法等因素都有关系的。像迪克森受到国际关注，正是因为它的算法和架构相较于国际上主流的 AI 大模型，已经进行了优化，不需要那么多的算力。而且它加入了强化学习算法，这样就不需要再通过大量的数据标注工作，从而减少了相关工作量。从训练的角度来讲，因为我们是按照 ………………………………