人工神经网络如何实现既稳健又灵活的“记忆”？再议诺贝尔奖物理奖

文章预览

图 1 霍普菲尔德网络像演奏一首记住的曲子，而玻尔兹曼机更像爵士乐即兴演奏，图片源自[1] 你记得一位朋友的脸，或者识别一个字母，并不是像计算机系统那样逐个比特把图像存储下来。这么做太费脑子了，即使是上千亿的神经细胞也不够用。更惊人的是，你的大脑记忆能够很灵活地适应变化，你朋友戴了个眼镜，或者字母写歪了，都不影响你的认知。所以你的大脑里一定有些很精巧而灵活的神经结构来实现既稳健又灵活的“记忆”。今年的诺贝尔物理学奖颁发给了John Hopfield和Geoffrey Hinton，以表彰他们在实现机器学习的人工神经网络方面的基础性发现与发明[2,3]。 说得通俗一点，他们提出的霍普菲尔德网络和玻尔兹曼机，就是解决“记忆”如何在一个神经网络中稳健而灵活地存储，即使有些变化，神经网络也能“想起来”或者“认出来”。   ………………………………