专栏名称: AIGC开放社区
专注AIGC(生成式人工智能)领域的专业社区,关注GPT-4、百度文心一言、华为盘古等大语言模型(LLM)的发展应用和落地,以及国内LLM的发展和市场研究,社区秉承共建、共享、开放的理念,提供对社区会员有价值的商业化思路和服务。
今天看啥  ›  专栏  ›  AIGC开放社区

Meta重磅开源Llama 3.3-70B:性能大涨成本降10倍

AIGC开放社区  · 公众号  · 互联网安全  · 2024-12-07 02:48
    

主要观点总结

文章介绍了专注于AIGC领域的专业社区,关注大语言模型(LLM)的发展和应用的落地,并围绕Meta最新开源的大模型Llama 3.3-70B展开陈述。该模型虽然参数规模较小,但与之前开源的Llama 3.1性能相当,同时推理、部署成本降低。Meta内部已经利用Llama模型驱动Meta AI助手,并且为了提升大模型的训练设施,Meta在路易斯安那州建立了一个100亿美元的AI数据中心。训练大型语言模型是一项成本高昂的业务,Meta的资本支出也因此增长。

关键观点总结

关键观点1: AIGC领域的专业社区关注点

文章介绍了专业社区的关注点,包括微软、百度文心一言、讯飞星火等大语言模型的发展和应用的落地,以及LLM的市场研究和AIGC开发者生态。

关键观点2: Meta最新开源大模型Llama 3.3-70B的介绍

Llama 3.3-70B虽然参数规模较小,但性能与之前的模型相当,且推理、部署成本降低。该模型在多个行业基准测试中超越了其他模型,包括评估模型语言理解能力的MMLU测试。

关键观点3: Meta利用Llama模型驱动Meta AI助手

Meta完全由Llama模型驱动的AI助手现在每月有近6亿活跃用户。Meta首席执行官表示,Meta AI有望成为世界上使用最广泛的AI助手。

关键观点4: Meta建立AI数据中心和训练大型语言模型的资本支出

为了提升大模型的训练设施,Meta在路易斯安那州建立了100亿美元的AI数据中心。训练大型语言模型是一项成本高昂的业务,Meta的资本支出也因此增长。


文章预览

专注AIGC领域的专业社区,关注微软 、百度文心一言、讯飞星火等大语言模型(LLM)的发展和 应用 落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注! 今天凌晨1点,Meta宣布开源最新大模型——Llama 3.3-70B。 虽然Llama 3.3只有700亿参数,但与之前开源的Llama 3.1 4050亿参数模型性能相当,而推理、部署成本却降低了很多。 例如,输入成本降低了10倍,输出成本降低了近5倍。 开源地址:https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct 根据发布的性能测试数据显示,Llama 3.3 70B在多个行业基准测试中超越了谷歌的Gemini 1.5 Pro、OpenAI的GPT-4o以及亚马逊新发布的Nova Pro,包括评估模型语言理解能力的MMLU测试。Meta的发言人表示,该模型将在数学、常识、指令遵循和应用使用等领域带来大幅度改进。 Meta也在内部利用Llama模型。完全由Llama模型驱动的Meta AI助手,现在每 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览