大模型如何遗忘不良知识？ 最新《生成式人工智能中的机器遗忘》综述

文章预览

生成式人工智能技术已经在许多地方得到了应用，例如（多模态）大型语言模型和视觉生成模型。它们的显著性能应归功于大量的训练数据和新兴的推理能力。然而，这些模型会记住并生成来自训练数据中的敏感、偏见或危险的信息，尤其是那些来自网络爬虫的数据。 新的机器遗忘（MU）技术正在开发，以减少或消除不良知识及其对模型的影响 ，因为那些设计用于传统分类任务的技术无法应用于生成式AI。 我们提供了一个关于生成式AI中MU的全面综述，如新的问题表述、评估方法以及对不同类型MU技术的优缺点的结构化讨论 。还提出了MU研究中的一些关键挑战和有前途的方向。一个精选的阅读列表可以在以下网址找到： https://github.com/franciscoliu/GenAI-MU-Reading。 机器学习（ML）源于人工智能（AI）构建从数据集D = {(x,y)}中学习模式的模型的追求。模型使 ………………………………