MIT新研究揭秘「AI洗脑术」！AI聊天诱导人类「编造」记忆，真假难辨

文章预览

   新智元报道   编辑：编辑部 【新智元导读】 MIT研究发现：在AI的操纵下，人类会被植入虚假记忆！36.4%的参与者会被聊天机器人误导，形成「现场有枪」的错误记忆。有趣的是，AI的阿谀奉承，会产生「回音室效应」，让偏见更加强化。 GenAI的影响，已经不仅仅是搜索引擎、聊天机器人这么简单了。 作为出名的效率神器，ChatGPT这样的工具正在逐渐走进各行各业，比如 帮警察写文书 、 帮法官判案子 ，还有 在Character.ai上扮演心理学家和人聊天 。 以前，我们经常听到人类如何操纵AI，但MIT最近的研究发现，AI也可以轻易操纵人类的记忆。 论文地址：https://arxiv.org/abs/2408.04681 这项实验中，研究人员让基于LLM的聊天机器人扮演审讯员或进行盘问的出庭律师，让200名参与者先观看一段犯罪视频，然后与AI进行互动，回答有关问题，其中包含一部分诱导 ………………………………