NeurIPS 2024｜如何防御对抗性提示攻击？AdvUnlearn让图片生成风险骤降

文章预览

↑ 点击 蓝字  关注极市平台 作者丨机器之心 来源丨机器之心 编辑丨极市平台 极市导读   本文介绍了AdvUnlearn框架，这是一个结合了对抗性训练和概念擦除技术的方法，旨在提高扩散模型在面对对抗性提示攻击时的鲁棒性，防止生成不当内容。AdvUnlearn通过优化文本编码器和引入保留效用的正则化机制，成功在多个概念擦除任务中抵御攻击，同时保持了图像生成的高质量。   >> 加入极市CV技术交流群，走在计算机视觉的最前沿 本文第一作者为密歇根州立大学计算机系博士生张益萌，为 OPTML 实验室成员，指导教师为刘思佳助理教授。OPtimization and Trustworthy Machine Learning (OPTML) 实验室的研究兴趣涵盖机器学习 / 深度学习、优化、计算机视觉、安全、信号处理和数据科学领域，重点是开发学习算法和理论，以及鲁棒且可解释的人工智能。 扩散模型（Diffusi ………………………………