后摩智能信晓旭：存算一体解锁AI大模型的边端侧潜力 | GACS 2024

文章预览

内存访问效率限制AI芯片发展，存算一体技术或成突破关键。 2024全球AI芯片峰会（GACS 2024）于9月6-7日在北京举行，大会由智一科技旗下芯片行业媒体芯东西和硬科技知识分享社区智猩猩发起举办。在7号下午举行的边缘/端侧AI芯片专场，后摩智能联合创始人、产品副总裁信晓旭以《存算一体，解锁AI大模型的边端侧潜力》为题发表演讲。 在演讲中，信晓旭首先分析了AI技术发展的两大趋势：模型参数的不断扩展和小模型的兴起。后者在端侧和边缘侧展现出巨大潜力。因为端侧和边缘侧的应用更接近实际场景，能够利用丰富的数据资源，为AI技术提供发展土壤。由此，信晓旭强调了端侧和边缘侧在AI创新中的潜力。 信晓旭还梳理了AI芯片发展的两个阶段，提到内存访问效率已成为新的瓶颈。在业界正在探索的几种技术路径中，存算一体技术通过将存储 ………………………………