文章预览
来源 | deeplive8 转发一篇文章， 本文总结了 Snapshot Ensemble（快照集成), Fast Geometric Ensembling ( 快速几何集成方法 ), Stochastic Weight Averaging(随机权重平均)， 三种常用的 深度学习模型集成的方法 。 【AI 科技大本营导读】本文，我们将讨论近期两篇有意思的论文，论文的大致思路是通过一种集成方式来提高任意给定的神经网络性能。这两篇论文分别是： 由 Garipov 等人提出的 “Loss Surfaces，Mode Connectivity，and Fast Ensembling of DNNs” 由 Izmailov 等人提出的 “Averaging Weights Leads to Wider Optima and Better Generalization” ▌ 传统的神经网络集成方法 传统的集成方法是集成几种不同的模型，再用相同的输入对模型进行预测，然后使用某种平均方法来确定集成模型的最终预测。平均方法 ( averaging ) 可以采用简单的投票方法 ( voting ) ，平均法或甚至
………………………………
