破解RAG冲突难题！中科院团队提出CK-PLUG：仅一个参数，实现大模型知识依赖的精准动态调控

文章预览

在大语言模型（LLMs）检索增强生成（RAG）技术快速迭代的今天，一个根本性难题始终存在困扰 RAG 的可信生成： 当模型参数记忆与外部检索知识冲突时，如何实现知识依赖的精准调控？ 目前方法只能依赖大模型自身判断知识可信度，这超过了模型能力的范围；并且现有的对齐技术都是单边提升模型的知识偏好，无法有效的实现知识依赖的双向控制。 然而现实场景中，大模型使用者应该根据具体的 RAG 部署场景（如模型先进性、检索质量等）来灵活调控模型更多的相信检索上下文还是自己的参数知识，从而得到更可靠的模型生成。 中科院计算所联合新加坡国立大学、加州大学默塞德分校团队提出创新解决方案  CK-PLUG ，一个功能强大但随查随用的知识依赖调控技术， 仅通过一个参数 token-level 地精准控制语言模型在生成过程中对内外部知识的依赖程 ………………………………