专栏名称: AIWalker
关注计算机视觉、图像处理、深度学习等领域的干货分享与前沿paper解读。AIWalker由具有多年算法研究与产品化落地经验的Happy运营,原创为主、同时会转载优秀解读文章。欢迎志同道合的小伙伴们加入一同学习进步。
今天看啥  ›  专栏  ›  AIWalker

LoFormer,局部频率 Transformer助 力图像去模糊,平衡全局建模与细粒度相关性 !

AIWalker  · 公众号  ·  · 2024-08-20 22:00

文章预览

关注 「 AIWalker 」 并 星标 从此AI不迷路 来源于 集智书童 ,作者 小书童 由于自注意力(SA)的计算复杂性,图像去模糊的常见技术往往要么采用局部SA,要么使用粗粒度全局SA方法,但这两种方法都存在一些缺点,比如牺牲全局建模能力或缺乏细粒度相关性。 为了解决这个问题,同时有效地建模长距离依赖关系而不牺牲细粒度细节,作者提出了一种新颖的方法,称为局部频率 Transformer (LoFormer)。 在LoFormer的每个单元中,作者在频域(Freq-LC)中引入了局部通道自注意力机制,以同时捕获低频和高频局部窗口内的交叉协方差。 这些操作具有以下优点:(1)确保了粗粒度结构和细粒度细节具有平等的学习机会,(2)与粗粒度全局SA方法相比,探索了更广泛的表示性属性。此外,作者提出了一种与Freq-LC互补的MLP门控机制,该机制旨在过滤掉不相关的特征, ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览