Kaggle竞赛Top5分享融合绝学。

文章预览

Kaggle竞赛Top5分享融合绝学--HillClimb！ 简介 在最新刚刚结束的Kaggle竞赛“Regression with a Flood Prediction Dataset”中，第四名的选手分享了一种继承策略--HillClimb集成。 Hill Climb集成可以应用到任何问题的集成当中，该策略最早是在多标签问题中被使用，而且在集成中取得了非常大的提升，很多选手赛后也尝试了该策略，纷纷表示效果非常好。 Kaggle GM Chris Deotte也非常推荐该即成策略。 "I love hill climbing because it can take lots of models and picks the best small subset of models. (i.e. its like Lasso regression) And it computes ensemble model weights."  - Chris Deotte  下面我们就一起来学习一下该策略。 HillClimb Ensemble 目前HillClimb算法已经被集成到一个Python模块。 爬山算法尝试最大化（或最小化）目标函数 。在每次迭代中，爬山算法会调整 中的单个元素，并确定这种改 ………………………………