国泰海通｜计算机：MoE、大规模、多模态、长文本，Llama 4系列模型开启开源AI新纪元

文章预览

报告导读： Llama  4 系列模型拥有 MoE 架构、大规模、多模态、长文本等多种特点，为其带来了强大的性能和突出的性价比，有望推动开源 AI 持续发展。 投资建议： Llama 4 开启了开源 AI 新纪元，有望进一步推动整个开源 AI 生态的发展。 MoE 架构 Llama 4 模型发布，参数巨大性能强大。 4 月 6 日， Meta 发布 Llama 4 系列首批模型，包括两款高效模型 Llama 4 Scout 、 Llama 4 Maverick 。此外， Meta 还预览了其迄今最强大最智能的模型—— Llama 4 Behemoth 。 Llama 4 模型还是 Llama 系列模型中首批采用混合专家（ MoE ）架构的模型。 Llama 4 Scout 包含 170 亿活跃参数、 16 个专家模型及 1090 亿总参数，在各基准测试中性能优于 Gemma 3 、 Gemini 2.0 Flash-Lite 和 Mistral 3.1 。 Llama 4 Maverick 拥有 170 亿活跃参数， 128 个专家模型及 4000 亿总参数。其拥有顶尖的图像定位能力，可将用户指 ………………………………