ACL 2024 Oral | 大模型也会被忽悠？揭秘AI的信念之旅

文章预览

地球是平的吗？ 当然不是。自古希腊数学家毕达哥拉斯首次提出地圆说以来，现代科学技术已经证明了地球是圆形这一事实。 但是，你有没有想过，如果 AI 被误导性信息 “忽悠” 了，会发生什么？ 来自清华、上海交大、斯坦福和南洋理工的研究人员在最新的论文中深入探索 LLMs 在虚假信息干扰情况下的表现，他们发现大语言模型在误导信息反复劝说下，非常自信地做出「地球是平的」这一判断。 论文标题：  The Earth is Flat because...: Investigating LLMs' Belief towards Misinformation via Persuasive Conversation  论文链接： https://arxiv.org/pdf/2312.09085 项目主页： https://llms-believe-the-earth-is-flat.github.io/ GitHub 源代码： https://github.com/LLMs-believe-the-earth-is-flat/llms-believe-the-earth-is-flat 生成式人工智能技术的快速发展，为生成虚假信息提供了便利。这些技术不仅能够创建逼真的 ………………………………