2024 META新作：SUM技术进行大规模在线用户表示，提升广告个性化效果

文章预览

个性化推荐是现代在线广告的基础，既提升了广告主的回报也优化了用户体验。个性化的核心在于对用户的理解，过去主要依赖于人工设计的特征和简化的架构。以深度学习为基础的推荐系统的发展改变了这一格局，其利用复杂的神经网络模型来学习微妙的用户表示。 然而，实践中遇到的约束，如训练吞吐量、服务延迟以及主机内存限制，限制了它们对大量用户数据的全效利用。对于像Meta这样的全面系统，它包含大量具有不同特性的模型，每天处理数百亿的用户请求，这些限制问题尤为突出。在这样大规模系统内学习用户表示遇到了以下几大挑战： 次优的表示 ：模型独立学习用户表示通常会导致较差的结果。 特征冗余 ：模型间重复的用户特征导致训练管道中不必要的重复，从而产生较高的存储开销。 专有模型数据稀缺 ：服务于利基细分 ………………………………