盗梦空间续集（InceptionNeXt）:使用Inception优化加速ConvNeXt实现ImageNet-1K的最佳精度

文章预览

Abstract 灵感来自ViT的长距离建模能力，大核卷积最近被广泛研究和采用，以扩大感受野并提高模型性能，例如显著的工作ConvNeXt采用7×7深度卷积。虽然这种深度算子只消耗少量的FLOPs，但由于高内存访问成本，它在强大计算设备上大大损害了模型效率。例如，ConvNeXt-T在A100 GPU上全精度训练时，与ResNet-50的FLOPs相似，但吞吐量仅为约60%。虽然减少ConvNeXt的核大小可以提高速度，但会导致显著的性能下降，这就提出了一个挑战性的问题：如何在保持性能的同时加速基于大核的CNN模型。为了解决这个问题，受Inceptions的启发，我们提出将大核深度卷积沿通道维度分解为四个并行分支，即小方核、两个正交带状核和一个恒等映射。通过这种新的Inception深度卷积，我们构建了一系列网络，即InceptionNeXt，它们不仅具有高吞吐量，还保持了竞争力的性能。例如，Incep ………………………………