用于图像分类的超轻量级特征压缩多头自注意力学习网络

文章预览

点击下方“ ReadingPapers ”卡片，每天获取顶刊论文解读 论文信息 摘要 视觉变换器在高光谱图像（HSI）分类中得到了广泛应用，其核心特征提取器是自注意力。自注意力比卷积具有更广的感受野。然而，现有的视觉变换器在对具有大量波段的HSIs进行分类时，通常存在高计算复杂性和大量的参数需求。在本文中， 我们提出了一种超轻量级特征压缩多头自注意力学习网络（UFMS-LN） ，主要包括一种新颖的压缩特征多头自注意力（CF-MHSA）、空间特征增强增强变换降低（SFE-ETR）和空间-光谱混合化-接收场注意力卷积操作（SH-RFAConv）。通过在空间-光谱维度有效地压缩特征图，CF-MHSA实现了与最先进的自注意力机制相同的特征提取能力，其浮点运算（FLOPs）和参数比最先进的自注意力机制低两个数量级。SH-RFAConv旨在强调局部特征，具有同时提取空间-光谱特征 ………………………………