NoteLLM: 大语言模型在小红书推荐系统的落地应用

文章预览

今天分享一篇小红书今年3月的论文，介绍了大语言模型在小红书笔记推荐场景下的落地应用，主要是围绕如何利用LLM的表征能力来生成更适用于i2i召回的文本embedding，思路简单，落地也容易，个人觉得实践价值非常高，值得学习。 NoteLLM: A Retrievable Large Language Model for Note Recommendation https://arxiv.org/abs/2403.01744 背景 为了解决推荐中的物品冷启动问题，在召回阶段中往往会增加一路使用 内容多模态表征的i2i召回 ，这路召回由于只使用了纯内容的特征，和老物品便可以公平比较，不会产生因为新物品后验行为少而导致无法被召回的问题。 现有的多模态i2i召回方法在文本侧一般都是用一个BERT经过预训练后生成embedding然后基于embedding的相似度来进行召回，但是这样可能也会存在一些问题： BERT表征能力不足 。 相较于BERT，使用参数量更大的LLM来生成embeddin ………………………………