专栏名称: CV技术指南
长期更新:深度学习、计算机视觉相关技术的总结;图像处理相关知识;最新论文;经典论文;论文综述、tensorflow和pytorch等内容总结。涉及领域 :神经网络模型、transformer模型、目标检测、语义分割、目标跟踪、视频理解等。
今天看啥  ›  专栏  ›  CV技术指南

门控轴向注意力,即插即用,语义分割涨点!

CV技术指南  · 公众号  ·  · 2024-11-16 17:15

文章预览

前言   自注意力机制通过计算输入特征图的全局亲和力来捕获非局部信息,但计算成本高昂。本文提出了一种门控轴向注意力机制,通过引入四个门控参数来控制位置嵌入对键、查询和值的影响,使得模型能够适应不同大小的数据集。同时,提出了一种局部-全局训练策略,通过在图像的全局分支和局部分支上操作,以提高分割性能。 Pytorch训练营,花两个星期彻底掌握代码实现 CV各大方向专栏与各个部署框架最全教程整理 CV全栈指导班、基础入门班、论文指导班 全面上线!! 来源: AI缝合术 仅用于学术分享,若侵权请联系删除 一、论文信息   1 论文题目 : Medical Transformer: Gated Axial-Attention forMedical Image Segmentation 中文题目:   医疗Transformer:用于医学图像分割的门控轴向注意力机制 论文链接: https://arxiv.org/pdf/2102.10662 官方github: https://github.com/jeya- ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览