文章预览
Transformer 在超光谱图像(HSI)分类领域已经取得了令人满意的结果。 然而,现有的 Transformer 模型在处理具有多样化土地覆盖类型和丰富光谱信息特征的HSI场景时面临两个关键挑战: (1)固定感受野表示忽略了有效上下文信息; (2)冗余自注意力特征表示。为了解决这些问题,作者提出了一种新颖的选择性 Transformer (SFormer)用于HSI分类。 SFormer旨在动态地选择感受野来捕捉空间和光谱上下文信息,同时通过优先考虑最相关的特征来减轻冗余数据的负面影响。这使得HSI中的土地覆盖分类变得非常准确。 具体来说,首先利用核选择性 Transformer 块(KSTB)动态地选择一个适当的感觉野范围来有效地提取空间-光谱特征。 此外,为了捕捉最重要的 Token ,引入了 Token 选择性 Transformer 块(TSTB),它根据每个 Query 的注意力得分对最相关的 Token 进行排序。 在四个
………………………………