腾讯整了两个大的，开源最大规模 MoE 模型、优质 3D 生成模型

主要观点总结

腾讯最近召开小型发布会，发布了业界规模最大的开源MoE大语言模型和已落地的3D生成模型。元宝APP也更新了更多能力，包括AI搜索功能和对视频号生态的帮助。MoE模型是由多个专家组成的团队，根据具体问题自动选择最合适的专家解答。模型具有高质量合成数据、KV缓存压缩、专家特定学习率缩放等特色。同时，模型推理框架也进行了优化。除了语言模型外，腾讯还开源了Hunyuan3D-1.0，一个同时支持文字和图像生成的3D生成模型，具有非常好的泛化性，并能从文字直接生成3D模型。该模型在多个基准上取得好成绩，并在腾讯内部多个场景落地。

关键观点总结

关键观点1: 腾讯发布业界规模最大的开源MoE大语言模型。

模型被称为Hunyuan-Large，总参数量达到3890亿，激活参数量为520亿。模型特色包括高质量合成数据、KV缓存压缩等。

关键观点2: MoE大语言模型的应用与优化。

MoE模型就像由多个专家组成的团队，能够处理不同类型的问题。模型推理框架进行了优化，包括CLA结构的引入和FP8量化优化等。

关键观点3: 腾讯开源的Hunyuan3D-1.0模型。

这是一个同时支持文字和图像生成的3D生成模型，具有非常好的泛化性。该模型由两个级联模型组成，能够高效生成多视图RGB图像并快速重建3D资产。

关键观点4: Hunyuan3D-1.0模型的突破与应用。

该模型可以直接从文字生成3D模型，在多个基准上取得好成绩，并在腾讯内部多个场景落地，如UGC 3D创作、商品素材合成等。

文章预览

最近使用元宝总结长内容和整理信息越来越多了，前几天突然想到说腾讯有一段时间没有特别大的发布了。 刚好今天他们就开了一个小型发布会，搞了两个大的，发布了目前业界规模最大的开源 MoE 大语言模型和一个已经在产品落地的 3D 生成模型。 元宝 APP 也更新了更多的能力，比如上线了 AI 搜索功能支持搜索 QQ 音乐的音乐和微信视频号的视频，更多模态的 AI 搜索，这下不得不用了，而且对于视频号生态的建设也很有帮助。 Hunyuan-Large MoE 模型 今天开源的 Hunyuan-Large 这个 MoE 大语言模型是目前业界最大规模的MoE 模型，业界最大的开源基于 Transformer 的 MoE 模型，总参数量达到 3890 亿，激活参数量为 520 亿。 简单解释一下什么是 MoE 模型 ： MoE (专家混合模型)就像是一个由多个"专家"组成的团队,每个专家擅长处理不同类型的问题,系统会根据输入的具 ………………………………