卷积神经网络的复杂度分析

文章预览

在梳理CNN经典模型的过程中，我理解到其实经典模型演进中的很多创新点都与改善模型计算复杂度紧密相关，因此今天就让我们对卷积神经网络的复杂度分析简单总结一下下。 1.时间复杂度 1.2 卷积神经网络整体的时间复杂度 示例：用 Numpy 手动简单实现二维卷积 假设 Stride = 1, Padding = 0, img 和 kernel 都是 np.ndarray. 2. 空间复杂度 空间复杂度即模型的参数数量，体现为模型本身的体积。 可见，网络的空间复杂度只与卷积核的尺寸 K 、通道数 C 、网络的深度 D 相关。而与输入数据的大小无关。 当我们需要裁剪模型时，由于卷积核的尺寸通常已经很小，而网络的深度又与模型的能力紧密相关，不宜过多削减，因此模型裁剪通常最先下手的地方就是通道数。 3. 复杂度对模 ………………………………