直播报名｜大模型幻觉，幻觉即泛化，知识掩盖导致大模型的组合幻觉

文章预览

报告主题： 幻觉即泛化，知识掩盖导致大模型的组合幻觉 报告日期： 8月20日（周二）10:30-11:30 报告要点： 为什么大语言模型在全部正确的训练数据上仍会产生幻觉？本次讲座会详细地讨论大模型产生组合幻觉的本质原因，并会讨论我们如何利用这一发现预测尚未发生的幻觉现象，以及如何使用无需训练的测试时间方法消除大模型组合幻觉。本次讲座将深入讨论我们如何发现并验证了训练过程中无处不在的数据不平衡导致模型产生组合幻觉这一现象，以及不同的模型大小，句子长度，不平衡程度和大模型幻觉的量化关系。通过大量实验和分析，我们揭示了大模型组合幻觉和泛化之间的强关联性，这一发现的重要之处在于长久以来我们认为大模型的强泛化是其高度智能的重要来源，而本文发现的幻觉和泛化之间的强关联性使得我们开始重新思考如何 ………………………………