让Mamba涨点！树形SSM来了！清华和腾讯提出GrootVL：多功能多模态框架

文章预览

前言   受序列固有几何约束的限制， Transformer 在建模远程依赖方面稍显不足。本文提出了 GrootVL 网络，它首先基于空间关系和输入特征动态生成树形拓扑结构。然后，基于该无环图执行特征传播，从而打破原始序列约束以实现更强的表征能力。此外，引入了一种线性复杂的度动态规划算法，在不增加计算成本的情况下增强远程交互。 Pytorch训练营，花两个星期彻底掌握代码实现 CV各大方向专栏与各个部署框架最全教程整理 CV全栈指导班、基础入门班、论文指导班 全面上线!! 来源：CVer 仅用于学术分享，若侵权请联系删除 GrootVL: Tree Topology is All You Need in State Space Model 论文：https://arxiv.org/pdf/2406.02395 代码（已开源）： https://github.com/EasonXiao-888/GrootVL 1 回顾状态空间模型      主流基础模型主要基于 CNN和 Transformer 架构，它们在视觉和语言任务中占主导 ………………………………