像研究人类一样研究ChatGPT：人类能否解锁AI“黑匣子” ？|《自然》长文

文章预览

原文作者：Matthew Hutson 本篇《自然》长文共5199字，预计阅读时间16分钟，时间不够建议可以先“浮窗”或者收藏哦。 研究者们在努力对人工智能逆向工程，扫描LLM的“大脑”，看它们在做什么、怎么做，以及为什么。 插图：Fabio Buonocore David Bau已经听惯了 “电脑太复杂搞不明白它在做什么” 的说法了。“我当了20年软件工程师，研究非常复杂的系统。总有这个问题。”Bau说，他是美国东北大学的计算机科学家。 但是对传统的软件来说，有专门知识的人通常可以推断出发生了什么，Bau说。如果一个网页的谷歌搜索排名下降了，那谷歌 （Bau工作了十几年的地方） 里面的人会很清楚为什么。但现代这类人工智能 （AI） “让我真正怕的是”，他说，“没有这样的了解。”即使造它的人也不行。 最新一波AI严重依赖机器学习。 这种学习会让软件自行识别 ………………………………