TPAMI 2023 | 通过堆叠混合单元搭建紧凑神经网络

文章预览

香港浸会大学博士生兰伟超、胡志锴、李梦柯及其导师张晓明教授的最新研究成果“Compact Neural Network via Stacking Hybrid Units”，被TPAMI录用。 该文通过堆叠基本单元的方式构建了一种新的紧凑型神经网络 ，所提出的方法不仅可以克服传统剪枝方法的缺点，同时可以达到良好的压缩效果。 论文题目：  Compact Ne u ral Network via Stacking Hybrid Units  论 文链接： https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=10275036 =1 一、摘要 作为网络压缩的一种有效工具，网络剪枝技术已被广泛用于减少深度神经网络（DNNs）中的冗余。然而，非结构化剪枝在处理稀疏和不规则的权重方面存在局限性。相比之下，结构化剪枝可以克服这个问题，但它需要设计额外的标准来确定要剪枝的组件。 因此， 本文提出了一种称为BUnit-Net的新型网络 ，该方法通过堆叠一些设计好的基本单元直接 ………………………………