Beyond KAN: 在CTR预估模型中引入KAN

文章预览

标题：Beyond KAN: Introducing KarSein for Adaptive High-Order Feature Interaction Modeling in CTR Prediction 论文链接：https://arxiv.org/pdf/2408.08713 代码：https://github.com/Ancientshi/KarSein 学校：悉尼科技大学 1 引言 传统的特征交互方法通常根据先验知识预定义最大交互阶数，这限制模型学习的充分性，且高阶的特征交互也会增加计算开销。为实现自适应的高阶特征交互且保留模型学的充分性，本文提出 KarSein (Kolmogorov-Arnold Represented Sparse Efficient Interaction Network)结构，主要贡献为： 1. 探索KAN在CTR预估中的应用，发现其局限性并提出KarSein采用引导符号回归来解决KAN网络在自发学习乘法关系方面的挑战。 2. KarSein保持强大的全局解释性，同时能够去除冗余特征，从而形成稀疏的网络结构。 KarSein与传统方法的对比。KarSein的优点在于无需空间转换即可构建交互，通过激活单元简单地捕 ………………………………