文章预览
来源 | 腾讯广告技术 最近阅读了其中一篇来自腾讯广告推荐团队的工作:Ads Recommendation in a Collapsed and Entangled World,详细介绍了腾讯广告推荐模型最近几年来的技术沉淀和实践经验,探索特征编码保留先验信息,维度坍塌,兴趣纠缠等问题,干货不少,分享给大家。 1. 摘要 推荐模型是计算广告的核心基础,腾讯广告升级了广告推荐大模型的能力,以支持广告产品的快速升级。本文总结了腾讯广告推荐模型在特征编码、维度坍塌和兴趣纠缠等几个方向的探索成果: 广告推荐模型需要充分使用不同类型的特征,包括序列特征、数值特征、嵌入(embedding)特征等。如何在广告推荐模型中更好地保留不同特征的先验信息? 广告推荐模型使用的特征通常会先被表达成K维的嵌入向量,并会随着模型训练进行更新。但我们观察到,很多特征的嵌入在某些维度
………………………………