AI 有多会一本正经地瞎编？超出你的想象！深度解析大模型的"幻觉"机制

文章预览

你是不是也遇到过这样的情况：问 AI 一个问题，它给了你一个特别详细、丰富，看上去好有逻辑的答案。但当我们去核实时，却发现这些信息完全是虚构的？ 这就是著名的 “AI 幻觉” 现象。 上下滑动查看更多，图源：河森堡 新浪微博 为什么会出现 AI 幻觉呢？今天就让我们一起来揭开这个谜题。 为什么会出现 AI 幻觉？ AI 幻觉指的是 AI 会生成看似合理但实际确实错误的信息，最常见的表现就是会编造一些不存在的事实或者细节。 就像在考试时遇到不会的题目，我们会试图用已知的知识去推测答案一样。AI 在遇到信息缺失或不确定的情况时，会基于自己的“经验”（训练数据）进行填补和推理。 这不是因为它想要欺骗我们，而是因为它在试图用自己理解的模式来完成这个任务。 1 基于统计关系的预测 因为 AI（ 尤其是像 ChatGPT 这样的语言模型 ………………………………