AI 有多会一本正经地瞎编？

文章预览

本文经授权转载自 科普中国 （ID： Science_China） 作者： 田威  编辑： 符思佳、林林 你是不是也遇到过这样的情况：问 AI 一个问题，它给了你一个特别详细、丰富，看上去好有逻辑的答案。但当我们去核实时，却发现这些信息完全是虚构的？ 这就是著名的“AI 幻觉”现象。 （图/河森堡 新浪微博） 为什么会出现 AI 幻觉呢？今天就让我们一起来揭开这个谜题。 为什么会出现 AI 幻觉？ AI 幻觉指的是 AI 会生成看似合理但实际确实错误的信息，最常见的表现就是会编造一些不存在的事实或者细节。 就像在考试时遇到不会的题目，我们会试图用已知的知识去推测答案一样。AI 在遇到信息缺失或不确定的情况时，会基于自己的“经验”（训练数据）进行填补和推理。 这不是因为它想要欺骗我们，而是因为它在试图用自己理解的模式来完成这个任务。 (图 ………………………………