文章预览
点击上方 蓝字 关注我 本文：6500字阅读 19分钟 这个小假期，让我感觉很崩溃的是，一项新的研究彻底打破了我们的幻想：LLM的幻觉问题不仅难以解决，而且 从根本上来说是无法100%完全消除的。 这个问题一直是LLM应用的最大痛点，严重影响了其在关键领域的可靠性。近年来，研究人员一直在努力通过各种方法来减少幻觉，但收效似乎有限。 这项研究运用了计算理论和哥德尔不完备定理，证明了幻觉是LLM固有的结构性特征。 图片由修猫创作 如果幻觉无法100%根除，你愿意把你的关键业务假设到一个不知何时会掉链子（ 出现幻觉 ）的架构上吗？这就和OpenAI-o1模型一样，我写了《 别吹了，OpenAI-o1绝没吹的那么神，用斯坦福的这条Prompt，一样实现说话之前先思考 》，当时很多朋友认为这不可能，直到更多人意识到这个问题，并且找到一堆同类研究
………………………………
