语言模型也有自己对现实世界的理解？

文章预览

如果你让GPT这样的大语言模型 （LLM） 闻一闻雨中露营地的气味，它会婉言谢绝。但如果让它向你描述一下这种气味，它则会毫无障碍地给出一些诗意的描述，比如“空气中弥漫着期待的气息”，那是“一种既清新又充满泥土芬芳的味道”，尽管这些模型既没有淋过雨，也没有鼻子。 对于这种现象，一种可能的解释是，LLM只不过在模仿大量训练数据中的文字，而不是真正理解“雨”或者“气味”。最近也有越来越多关于LLM能不能真正“理解”语言的争论：缺乏直接的视觉输入，是不是一定意味着语言模型永远无法明白狮子比猫“大”是什么意思呢？ 这其实也是现代人工智能研究中的一个核心问题： LLM的惊人能力仅仅是处于大规模的统计相关性，还是说它对现实产生了具有含义的理解？ 麻省理工学院计算机科学与人工智能实验室 （CSAIL） 的科学家 ………………………………