国产AI芯片崛起！大模型下沉边端，GPU之外的芯片新潮流

文章预览

存算一体架构已经为边端大模型部署提供了一种高效解决方案。 作者 |   程茜 编辑 |   漠影 大模型这把火，已经烧到了边端设备！ 一段时间以来，能更好适配手机、PC等边缘设备的端侧模型如雨后春笋般接连冒出，微软、苹果、Hugging Face、OpenAI、Mistral、谷歌等连珠炮式甩下轻量级模型；AI PC、AI手机、汽车座舱等大模型加持的边端设备层出不穷，产业链上下游玩家争相入场。 随着技术的成熟和应用场景的拓展，端侧大模型市场已经成为AI领域的一个重要增长点，但对于边端设备而言，承载大模型能力非一日之功，即便参数规模下降为大模型落地部署提供了条件，边端设备本身的硬件载体同样至关重要。 因此，连接大模型与边端设备能力的底层芯片玩家成为其中的关键变量。那么，在边端大模型部署落地加速的背景下，还是非GPU不可吗？什么样 ………………………………