活动报名｜如何减轻幻觉？揭秘LLM局限性，探讨实现效果及对安全性影响

文章预览

报告主题 ： 幻觉无法避免，探讨LLM的根本局限 报告日期 ：6月26日（周三）14:30-15:30 报告要点 ： 幻觉是大语言模型（LLM）一个公认的重要缺陷。已有许多研究试图解释并减轻幻觉。但到目前为止，这些工作主要是经验性的，它们无法回答一个基本问题，即是否可以从LLM中完全消除幻觉。在本研究中，我们将幻觉问题形式化，并证明在LLMs中消除幻觉是不可能的。具体而言，我们定义一个形式化的世界，并定义幻觉为LLM与一个可计算的ground truth函数之间的不一致。利用机器学习理论中的已有成果，我们证明数据驱动的LLM无法学习所有的可计算函数，因此它们无法避免产生幻觉。由于形式世界是现实世界的一部分，而后者更为复杂，所以对现实世界的LLM而言，幻觉也是不可避免的。此外，对于受到时间复杂度限制的LLM，我们可进一步推测易使之产生幻 ………………………………