DeepSeek产业链

文章预览

推荐阅读： 1. DeepSeek五大误解与真相解读 2.Nvidia AI 芯片演进解读与推演（一） 3. 68页PPT，初步了解AI芯片！ 4.博通和AI ASIC的故事 5. 博通AI芯片技术深入分析 6.自动驾驶芯片（AI芯片-GPU、FPGA、ASIC） DeepSeek电话会：产业链影响调研纪要 Q：DeepSeek和普通的AIGC有什么区别？ A：DeepSeek也属于生成式AI，有几个不同： 第一个是把成本拉低，是llama的1/11，用先进技术把推理速度降低，模型架构和大部分不一样，用细颗粒度MoE，先进模型基本都是邓氏架构，细颗粒度不是首创，阿里也在往这个方向走，这个架构在推理的时候只激活部分参数，在推理机制上引入LLA，市场上有几种，多头注意力等，需要每个参数都参与计算，而DeepSeek只激活低参数，降低成本； 第二个是训练方法，传统方法是FP32和FP16的混合精度，DeepSeek用FP8参数，比较敏感的组件还是FP16，分布式 ………………………………