技术动态 | 利用知识图谱检测并修正大模型幻觉：GraphEval策略的实现思路

文章预览

转载公众号 | 老刘说NLP 最近看到一个工作  《GraphEval: A Knowledge-Graph Based LLM Hallucination Evaluation Framework》 (https://arxiv.org/pdf/2407.10793)，提出了一个基于知识图谱的幻觉检测框架，用于评估大模型的回复，并检测与提供的知识不一致的地方，即所谓的“幻觉”。 此外，其还提供了一个将幻觉检测的结果进行进一步纠正的思路，虽然全是prompt，但也很有趣。从实现思想上来看，其基于通过知识图谱结构表示信息的思想，旨在解决之前幻觉检测方法缺乏可解释性的问题，从而提出了一个两阶段过程。 这种思路很有趣，也足够简单，感兴趣的可以看看，会有收获。 1、GraphEval幻觉检测思路 GraphEval 首先从LLM输出中构建知识图谱，然后迭代检查每个三元组（triple）是否在给定上下文中事实一致。如果任何三元组被识别为不一致，输出将被视为事实不一致，并可 ………………………………