TPAMI 2024 | 利用先验引导知识改进快速对抗训练

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 点击加入论 文投稿、写作、阅读分享交流群 Improving Fast Adversarial Training With Prior-Guided Knowledge 利用先验引导知识改进快速对抗训练 Xiaojun Jia; Yong Zhang; Xingxing Wei; Baoyuan Wu; Ke Ma; Jue Wang; Xiaochun Cao 摘要 快速对抗训练（FAT）是一种在白盒攻击场景中提高鲁棒性的高效方法。然而，原始的 FAT 存在灾难性过拟合问题，这会在训练几个周期后突然且显著降低鲁棒性。尽管已经提出了各种 FAT 变体以防止过拟合，但它们需要较高的训练时间。在本文中，我们通过比较标准对抗训练和 FAT 的训练过程，研究了对抗样本质量与灾难性过拟合之间的关系。我们发现，当对抗样本的攻击成功率变差时，就会发生灾难性过拟合。基于这一观察，我们提出了一种正向的先验引导对抗初始化，通 ………………………………