Llama3.1系列模型正式开源，最大405B，闭源模型的统治时代将迎来结束？

主要观点总结

文章介绍了Meta新开源的Llama3.1系列模型，包括其参数规模、预训练细节、效果和使用方法。文章还讨论了模型的效果与真实使用效果的关系，以及不同模型之间的比较。最后，文章提到了部署成本问题以及未来可能的发展方向。

关键观点总结

关键观点1: Llama3.1系列模型的最大参数规模达到405B，预训练使用了大量的GPU小时。

文章指出Llama3.1系列模型是Meta开源界的头部产品，其参数规模达到405B，预训练细节包括使用了大量的GPU小时，分为不同的模型规模，支持多语言，并使用合成数据进行微调。该系列模型的效果普遍较好，尤其是Instruct模型在通用、代码、数学和工具使用等方面有大幅提高。

关键观点2: 开源模型面临部署成本高的问题。

文章提到虽然Llama3.1系列模型效果很好，但由于模型太大，部署成本很高，只有部分企业有资格尝试使用。作者提到后面各大平台可能会提供调用API的方式，以降低体验门槛。

关键观点3: 未来可能有更多关于Chinese-Llama-3.1的工作出现。

文章预测未来很快会有关于Chinese-Llama-3.1的工作出现，并提到Qwen系列也需要加快步伐。作者鼓励大家关注公众号以获取更多相关信息和交流机会。

文章预览

Meta开源了Llama3.1系列模型，最大参数规模为405B，开源也是好起来了，榜单指标直逼GPT4-o。 开源追上闭源模型不再是梦！Llama系列模型确实是开源界的头部，真金白银砸出来的就是不一样。 不过现在大家也都知道，榜单效果和真实使用效果也不是完全正比的， 后面看看对lmsys战榜单，还有大家的实测效果吧！ HF: https://huggingface.co/collections/meta-llama/llama-31-669fc079a0c406a149a5738f Llama3.1系列模型细节 15T Tokens预训练；占比知识50、数学25、代码17、语言8 8B、70B、405B的模型均采用GQA； 405B模型，有126层，词表大小128256，隐藏层维度16384；8B和70B模型与llama3一样就不介绍了； 支持上下文长度128k； 支持多语言，包括英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语和泰语；当然其他语言也可以使用，只是没有针对性进行安全测试。 instruct模型微调使用了 ………………………………