文章预览
标题:Beyond KAN: Introducing KarSein for Adaptive High-Order Feature Interaction Modeling in CTR Prediction 论文链接:https://arxiv.org/pdf/2408.08713 代码:https://github.com/Ancientshi/KarSein 学校:悉尼科技大学 1 引言 传统的特征交互方法通常根据先验知识预定义最大交互阶数,这限制模型学习的充分性,且高阶的特征交互也会增加计算开销。为实现自适应的高阶特征交互且保留模型学的充分性,本文提出 KarSein (Kolmogorov-Arnold Represented Sparse Efficient Interaction Network)结构,主要贡献为: 1. 探索KAN在CTR预估中的应用,发现其局限性并提出KarSein采用引导符号回归来解决KAN网络在自发学习乘法关系方面的挑战。 2. KarSein保持强大的全局解释性,同时能够去除冗余特征,从而形成稀疏的网络结构。 KarSein与传统方法的对比。KarSein的优点在于无需空间转换即可构建交互,通过激活单元简单地捕
………………………………