[ECCV 2024] [复旦]RECE：扩散模型概念移除，只需3秒即可充分移除风险概念！

文章预览

本文内容来自公众号粉丝投稿，作者来自复旦大学的视觉与学习实验室(FVL)。研究团队提出了一种可靠、高效的概念移除方法（RECE）。该方法以解析解的形式，迭代地进行风险概念移除、风险概念嵌入推导，从而确保模型彻底移除风险概念。本篇工作的论文和代码均已开源。 相关链接 论文链接：https://arxiv.org/abs/2407.12383 代码链接：https://github.com/CharlesGong12/RECE 论文阅读 问题背景 近年来，基于扩散模型的文生图（T2I）技术取得了重大进展，已经可以生成十分逼真的图像。然而，在生成高质量图像内容的同时，上述模型也存在被滥用的风险，例如生成侵犯版权和包含风险内容（如虚假新闻、暴力色情内容）的图像。尤其是Stable Diffusion（SD）的开源，使得文生图技术变得更加普及。 目前，已有的安全措施包括使用安全检查器对输出进行检查，以及 ………………………………