专栏名称: 包包算法笔记
数据挖掘、机器学习、深度学习、Kaggle竞赛分享与交流。
今天看啥  ›  专栏  ›  包包算法笔记

字节用大模型做推荐。。

包包算法笔记  · 公众号  ·  · 2024-10-13 18:02

文章预览

前几个月 Meta HSTU 点燃各大厂商对 LLM4Rec 的热情,一时间,探索推荐领域的 Scaling Law、实现推荐的 ChatGPT 时刻、取代传统推荐模型等一系列话题让人兴奋,然而理想有多丰满,现实就有多骨感,尚未有业界公开真正复刻 HSTU 的辉煌。这里面有很多原因,可能是有太多坑要踩,也有可能是 Meta HSTU 的基线较弱,导致国内已经卷成麻花的推荐领域难以应用 HSTU 产生突破性效果。 然而做起来困难并不代表不去做,总要有 真的勇士 率先攻克难关迈出一步。字节前几天(2024.9.19 发布 arxiv)公开的工作 ⌜ HLLM ⌟(分层大语言模型)便是沿着这一方向的进一步探索,论文内也提及了 follow HSTU: 论文题目: HLLM: Enhancing Sequential Recommendations via Hierarchical Large Language Models for Item and User Modeling 论文链接: https://arxiv.org/abs/2409.12740 代码链接: https://github.com/bytedance/HLLM ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览