主要观点总结
本文主要介绍了AI应用的广泛普及和渗透率提升带来的全球Agent推理token数量增长,以及由此产生的对推理算力的巨大需求。文章还提到了DeepSeek系列模型的应用和部署情况,以及多家公司与云服务提供商的合作情况。
关键观点总结
关键观点1: AI应用的广泛普及和推理算力需求的增长
随着AI应用的广泛落地和渗透率的提升,全球Agent的推理token数量将增长3个数量级以上,导致推理算力需求将有望达到训练算力需求的2-3个数量级以上。
关键观点2: DeepSeek系列模型的部署和应用
DeepSeek V3模型更小的参数量意味着更低的推理成本,有助于推动AI应用的普及。全资子公司浙江数据管理成功完成DeepSeek-R1的适配并实现部署,基于沐曦曦云C系列国产GPU集群,实现了国产大模型+国产算力芯片的全国产化核心技术组合。
关键观点3: 公司与云服务提供商的合作
多家公司与云服务提供商如华为云、阿里云等展开合作,基于其大模型提供智能应用落地的一体化解决方案。例如,拓维信息是华为云盘古大模型的生态合作伙伴,常山北明与华为昇腾合作,基于昇腾硬件平台进行开发和部署。
文章预览
随着AI应用的广泛落地和渗透率的提升,全球Agent的推理token数量将增长3个数量级以上。同时,视频生成与实时视频理解等形态的AI也有望带来巨量需求增长。因此,推理算力需求将有望达到训练算力需求的2-3个数量级以上。DeepSeek
V3模型更小的参数量也意味着更低的推理成本,这将进一步推动AI应用的普及和推理算力需求的增长。 DeepSeek算力 杭钢股份: 全资子公司浙江数据管理成功完成DeepSeek-R1的适配并实现DeepSeek-R1
70B参数及以下全部蒸馏模型的部署。本次调试部署基于沐曦曦云C系列国产GPU集群,从而实现了国产大模型+国产算力芯片的全国产化核心技术组合,为公司公共行业服务云奠定了坚实的国产化平台。 航锦科技: 近年来从收购从基础化工转型电子行业,主要布局高端芯片和高端射频器件。幻方量化是公司旗下人工智能核心产品与整体解
………………………………