卷积神经网络中用 1*1 卷积有什么作用或者好处呢？

文章预览

地址：https://www.zhihu.com/question/56024942 编辑： AI遇见机器学习 作者：陈运锦 个人的几点理解： https://zhuanlan.zhihu.com/p/35814486 目录： part I   ：来源 part II  ：应用 part III ：作用（降维、升维、跨通道交互、增加非线性） part IV ：从fully-connected layers的角度理解 一、来源：[1312.4400] Network In Network （如果1×1卷积核接在普通的卷积层后面，配合激活函数，即可实现network in network的结构） 二、应用：GoogleNet中的Inception、ResNet中的残差模块 三、作用： 1、降维（减少参数） 例子1 : GoogleNet中的3a模块 输入的feature map是28×28×192 1×1卷积通道为64 3×3卷积通道为128 5×5卷积通道为32 左图卷积核参数：192 × (1×1×64) +192 × (3×3×128) + 192 × (5×5×32) = 387072 右图对3×3和5×5卷积层前分别加入了通道数为96和16的1×1卷积层，这样卷积核参数就变成了: 192 × (1×1×64) +（192×1×1×96+ ………………………………