【机器学习】Kaggle竞赛被AutoML模型霸榜了...

文章预览

作者：无言 霸榜Kaggle竞赛的AutoML模型。 竞赛背景 在Kaggle最近结束的Swag比赛Binary Prediction of Poisonous Mushrooms中，前五的方案中，很多团队都是用到了端到端的自动建模库 Autogluon ，第一名和第三名的方案中都是以其为核心进行的。 例如第三名的方案框架如下： 使用了一个默认版AutoGluon； 一个自定义版AutoGluon。对于自定义版，我们使用了以下设置：a.我们使用对数损失作为早停指标，同时根据目标指标MCC进行优化和选择。我们不确定这是否有帮助，但它改善了我们的离线CV得分。b.我们使用了16折交叉验证和AutoGluon的多层堆叠实现。c.我们训练了一个定制模型组合，通过TabRepo进行元学习（即zero-shot HPO）。d.我们进行了100次迭代（而不是默认的25次）用于 post hoc集成。 所以本文我们简单学习一下Autogluon。 Autogluon 关于Autogluon ：是一个端到端的自动机器学 ………………………………