RNN回归！Bengio新作大道至简与Transformer一较高下

文章预览

↑ 点击 蓝字  关注极市平台 作者丨 新智元 来源丨新智元 编辑丨极市平台 极市导读   近日，深度学习三巨头之一的Yoshua Bengio，带领团队推出了全新的RNN架构，以大道至简的思想与Transformer一较高下。 >> 加入极市CV技术交流群，走在计算机视觉的最前沿 在Transformer统治的AI时代之下，散落在世界各地的「RNN神教」信徒，一直相信并期待着RNN回归的那天： 毕竟，凭借强大的顺序和上下文感知能力，RNN曾在各种任务中表现惊艳。 直到后来遭遇了反向训练的瓶颈，因Scaling Law而跌落神坛。 然而，人们并没有忘记RNN。 RWKV、Mamba、xLSTM等RNN衍生模型接连出现，欲挑战Transformer之霸主地位。 就在近日，又有重量级人物下场—— 深度学习三巨头之一的Yoshua Bengio，带领团队推出了全新的RNN架构，以大道至简的思想与Transformer一较高下。 论文地址： https://arxiv.org/p ………………………………