论文解读 | EATFormer：受进化算法启发改进视觉Transformer

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 论文信息 题目：EATFormer: Improving Vision Transformer Inspired by Evolutionary Algorithm EATFormer：受进化算法启发改进视觉Transformer 作者：Jiangning Zhang, Xiangtai Li, Yabiao Wang, Chengjie Wang, Yibo Yang, Yong Liu, Dacheng Tao 源码链接：https://github.com/zhangzjn/EATFormer 摘要 受生物进化启发，本文通过类比经过验证的实用进化算法（EA）来解释视觉Transformer（ViT）的合理性，并推导出两者一致的数学表述。然后，受有效的EA变体启发，我们提出了一种新颖的金字塔EATFormer骨干网络，它只包含所提出的基于EA的Transformer（EAT）块。该块由三个残差部分组成，即多尺度区域聚合、全局和局部交互以及前馈网络模块，分别对多尺度、交互和个体信息进行建模。此外，我们设计了一个与Transformer骨干网络对接的任务 ………………………………