干货 | Deep Learning模型近年来重要进展

AI 科技评论按：本文为清华大学唐杰副教授及其学生丁铭结合其 Aminer 数据库整理出 Deep Learning 模型最近若干年的重要进展，AI 科技评论获其授权转发。#track1 cv/tensor1943 年出现雏形，1958 年研究认知的心理学家 Frank 发明了感知机，当时掀起一股热潮。后来 Marvin Minsky（人工智能大师）和 Seymour Papert 发现感知机的缺陷：不能处理异或回路、计算能力不足以处理大型神经网络。停滞！1986 年，Hinton 正式地提出反向传播训练 MLP，尽管之前有人实际上这么做。1979 年，Fukushima 提出 Neocognitron，有了卷积和池化的思想。1998 年，以 Yann LeCun 为首的研究人员实现了一个七层的卷积神经网络 LeNet-5 以识别手写数字。后来 SVM 兴起，这些方法没有很受重视。2012 年，Hinton 组的 AlexNet ………………………………