NICE分享 | 知识斗地主：解析RAG大模型中复杂的知识冲突综述

文章预览

主题 知识斗地主：解析RAG大模型中复杂的知识冲突 时间 2024.7.20 周六 下午 1 6:00-17:10 进群 论文：Knowledge Conflicts for LLMs: A Survey 地址：https://arxiv.org/pdf/2403.08319 github：https://github.com/pillowsofwind/Knowledge-Conflicts-Survey 内容（约1小时10分钟） 一. 背景   1. 知识冲突的定义，研究历史，为什么在 RAG 大模型时代受到了更大的关注 二. 三种知识冲突   1. 上下文和参数化知识冲突：产生，分析，缓解方式和 remark     a. 上下文和参数化知识冲突是对于 RAG 模型来说面临最主要的一种冲突，也是目前研究界最关注的一种冲突。     b. 面对复杂的知识冲突，模型会更加相信上下文中的知识，还是参数化记忆中的知识？模型对于知识的选择是否与实际的场景有关系呢？     c. “正确”而非“先验”的缓解措施，应当是什么？是否存在一个明确的缓解措施呢？   2. 上 ………………………………