【源头活水】SMCA：港中文提出注意力图校准的DETR加速方案 | ICCV

文章预览

“ 问 渠 那 得 清 如 许 ， 为 有 源 头 活 水 来 ” ， 通 过 前 沿 领 域 知 识 的 学 习 ， 从 其 他 研 究 领 域 得 到 启 发 ， 对 研 究 问 题 的 本 质 有 更 清 晰 的 认 识 和 理 解 ， 是 自 我 提 高 的 不 竭 源 泉 。 为 此 ， 我 们 特 别 精 选 论 文 阅 读 笔 记 ， 开 辟 “ 源 头 活 水 ” 专 栏 ， 帮 助 你 广 泛 而 深 入 的 阅 读 科 研 文 献 ， 敬 请 关 注 ！ 为了加速 DETR 收敛，论文提出了简单而有效的 Spatially Modulated Co-Attention （ SMCA ）机制，通过在初始边界框位置给予较高的协同注意力响应值的约束来构建 DETR 的回归感知协同注意力。此外，将 SMCA 扩展为多头注意力和尺度选择注意力后，对比 DETR 可以实现更好的性能（ 108 周期 45.6 mAP vs 500 周期 43.3 mAP ） 论文: Fast Convergence of DETR with Spatially Modulated Co-Attention 论文地址：https://arxiv.org/abs/2108.02 ………………………………