ICLR 2025 杰出论文 | 模型编辑：必要性、短板与破局法

文章预览

点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入！ 第一作者 第一作者： 方俊峰 ， 新加坡国立大学博士后 什么是模型编辑？ 模型编辑是一个高效更新大模型内部所存储知识（如错误、过时和不安全知识）的技术。与微调相比，它的主要优势有两个： 1.可以定向更新任意数量的知识（可少至几条），而不用担心过拟合、灾难性遗忘等问题。 2.几乎是无需训练（Training Free）的，实时性强。 一个很直观的问题是，在这个微调技术茁壮成长、层出不穷的时代，为什么我们需要模型编辑？上述俩个优势，到底会给它带来怎样的应用空间呢？ 《叶问外传》中有一句非常破圈的话，叫：“七步之外，枪快；七步之内，拳快。” 微调就是枪，相较于上一个版本的LLM，经过微调后的新版本LLM可以稳定地存储更准确的知识。 但是，再高效的微调/对齐，也需要 ………………………………