轻量化MobileMamba视觉模型来了｜浙大/腾讯优图/华中科大联合出品

文章预览

作者 | MobileMamba 来源 | 量子位 | 公众号 QbitAI 浙大、腾讯优图、华中科技大学的团队，提出 轻量化MobileMamba ！ 既良好地平衡了效率与效果，推理速度远超现有基于Mamba的模型。 一直以来，轻量化模型研究的主阵地都在CNN和Transformer的设计。 但CNN的局部有效感受野在高分辨率输入时，难以获得长距离依赖；尽管Transformer有着全局建模能力，但是其平方级计算复杂度，限制了其在高分辨率下的轻量化应用。 最近的状态空间模型如Mamba，因其线性计算复杂度和出色的效果被广泛用在视觉领域。 然而，基于Mamba的轻量化模型虽然FLOPs低，但是实际的吞吐量极低。 △ 最近基于CNN/Transformer/Mamba方法的效果 vs. FLOPs对比 团队 首先在粗粒度上 设计了三阶段网络显著提升推理速度。 随后在细粒度上 提出了高效多感受野特征交互 （MRFFI） 模块包含长距离小波变换增 ………………………………