车载大模型计算分析：存储带宽远比算力重要

文章预览

车载大模型的定义尚无，传统大模型即LLM的参数一般在70亿至2000亿之间，而早期的CNN模型参数通常不到1000万，CNN模型目前大多做骨干网使用，参数飞速增加。特斯拉使用META的RegNet，参数为8400万，消耗运算资源很少，得分82.9也算不低；小米UniOcc使用META的ConvNeXt-B，参数8900万，消耗运算资源最少，得分83.8；华为RadOcc使用微软的Swin-B，参数8800万。相对于早期的CNN模型，这些都可以叫大模型，但要与真正意义上的ChatGPT之类的LLM大模型比，这些是小模型都称不上，只能叫微模型。 不过，端到端的出现改变了这一现状，端到端实际上是内嵌了一个小型LLM，随着喂养数据的增加，这个大模型的参数会越来越大，最初阶段的模型大小大概是100亿参数，不断迭代，最终会达到1000亿以上。非安全类的大模型应用基本不用考虑计算问题，所以只要是个手机都敢说能 ………………………………