AI 能自查幻觉了！谷歌苹果联手打造“真话检测器”

文章预览

想象一下，如果LLM能够自己发现自己在撒谎，那将解决大模型一大顽症！近日， 谷歌 、 苹果 和 以色列理工学院 （ Technion ）的研究团队联手推出了一项令人惊叹的新技术，为大型语言模型（LLMs）开发出了一个“真话检测器”，效果很不错。 这项突破性研究的核心在于开发出一种能够检测 LLMs 自身“ 幻觉 ”的新技术。所谓“幻觉”，就是 AI 生成的那些听起来像模像样，实际上却是胡说八道的信息。研究团队通过分析模型在生成文本时的内部层表示，成功开发出一个幻觉检测分类器。这个分类器的准确率高得惊人，达到了 85-95%！这意味着，AI 现在不仅能说话，还能知道自己说的是否靠谱。 然而，从实验室到实际应用，这项技术还面临着不少挑战。首先，它需要对模型生成的每个答案进行精确标记，这在实际操作中难度很大。例如，在实际应用 ………………………………