【源头活水】ACL 2024 | UHGEval: 无约束生成下的中文大模型幻觉评估

文章预览

“ 问 渠 那 得 清 如 许 ， 为 有 源 头 活 水 来 ” ， 通 过 前 沿 领 域 知 识 的 学 习 ， 从 其 他 研 究 领 域 得 到 启 发 ， 对 研 究 问 题 的 本 质 有 更 清 晰 的 认 识 和 理 解 ， 是 自 我 提 高 的 不 竭 源 泉 。 为 此 ， 我 们 特 别 精 选 论 文 阅 读 笔 记 ， 开 辟 “ 源 头 活 水 ” 专 栏 ， 帮 助 你 广 泛 而 深 入 的 阅 读 科 研 文 献 ， 敬 请 关 注！ AITIME 01 引入 LLM的蓬勃发展带来了许多潜在的机遇，但是，幻觉问题却成为实际应用落地前需要克服的重要障碍。假如你是一个新闻编辑，正在用LLM撰写新闻，如果生成了如图1中示例的文本，那基本就是在帮倒忙，因为每一个词，每一个数字都还需要你重新去确认正确与否。 图1 一些用LLM生成新闻续写时出现的幻觉 为了有效控制幻觉，提出可信的模型固然重要，但是在那之前提出一个统一的 ………………………………