专栏名称: 国金电子研究
电子首席骆思远及其团队倾心打造,为投资者挖掘行业投资价值保驾护航!
目录
相关文章推荐
饕餮海投资  ·  半场开香槟 ·  2 天前  
宛央女子  ·  讨厌也是一种感觉 ·  2 天前  
今天看啥  ›  专栏  ›  国金电子研究

【国金电子】行业深度报告:AI应用带动推理算力需求,看好ASIC行业厂商发展

国金电子研究  · 公众号  ·  · 2025-03-11 10:17
    

文章预览

+ 投资逻辑 投资逻辑 我们认为AI推理降本有望带动AI应用的爆发,ASIC作为高性价比的算力方案,有望充分受益推理算力需求增长。从chatgpt3发布以来,大语言模型的推理的成本以指数级别下降,单美元可生成的token数量持续增长,据A16z Infrastructure测算,推理成本每年降低幅度约10倍。模型推理的算法升级落地,通过包括强化学习、MOE等方法提升模型推理能力。我们认为:模型的推理成本快速降低,有望带动应用的爆发,而应用爆发将带动更多的推理算力需求,同时推理算法的迭代也带动更多算力需求。ASIC相比GPU可针对业务场景做定制开发,我们认为大量的推理算力以及降本诉求将有效带动ASIC的需求增长。目前北美云厂商积极布局ASIC,已经实现规模化生产的ASIC包括谷歌的TPU、亚马逊的Trainium与Inferentia、微软的Maia以及Meta的MTIA,其中谷歌和亚马逊的 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览