大模型给普通人带来的理解力幻觉

文章预览

近日Nature的评论文章“Artificial intelligence and illusions of understanding in scientific research”讲述了大模型为代表的AI技术在科学研究中应用，如何促成了理解的幻觉。即研究者如果没有正确地使用AI，会以为自己知道的很多，但实际却知之甚少。 https://doi.org/10.1038/s41586-024-07146-0 文中将AI在科研中的作用分为4种，一是将AI当神谕；二是将AI当成被试者；三是将AI当成数据分析师；四是将AI当成仲裁者。而对AI带来的理解的幻觉，分为以下三类： 图a, 理解深度的幻觉：使用人工智能工具进行研究的科学家可能会误以为自己对其研究的主题有更深入的理解。例如，一位科学家利用AI进行数据分析来研究某一现象（X），他可能会错误地认为自己对X的理解远超实际水平。 图b, 理解宽度的幻觉：在知识领域的一种单一文化中，科学家可能会误以为自己正在探索所有可测 ………………………………