ACM MM'24 | Compacter：一种用于图像恢复的轻量级 Transformer

文章预览

好消息！加入知识星球，详细阅读本文PDF完整版  论文信息 题目：Compacter: A Lightweight Transformer for Image Restoration Compacter：一种用于图像恢复的轻量级 Transformer 作者：Zhijian Wu, Jun Li, Yang Hu, Dingjiang Huang 论文创新点 提出轻量级图像恢复网络Compacter ：论文提出了一种名为 Compacter 的紧凑Transformer网络，专门用于轻量级图像恢复任务。 设计紧凑自适应自注意力机制CASA ：提出 紧凑自适应自注意力（CASA） 机制。通过 投影共享 生成查询、键和值，同时对空间和通道自注意力进行建模；利用 自适应交互 实现空间和通道全局信息的双向传播与整合，达成全方位关系交互。 引入双选通模块DSGM ：设计了 双选通模块（DSGM） ，它利用并行分支编码局部信息，通过Sigmoid和GELU两种不同激活函数生成具有不同属性的权重，经双选通操作自适应促进有益像素、抑制有害像 ………………………………