文章预览
简单来说,XGBoost 是一种非常非常强大的机器学习算法,全称叫做 Extreme Gradient Boosting ,它是提升树(Boosting Trees)的一种实现。 下面我们用一个生活中的简单例子来帮助理解。 假设你是一个班级的班主任,你要根据学生的学习情况预测他们期末考试的成绩。你不想靠自己的直觉,所以你决定让一群老师帮你。 第一步:请一个老师来打分 你请来了第一位数学老师。数学老师根据学生们的平时表现打了一个分数(可能依据作业、上课表现等)。但这位老师的预测并不完美,有些学生的分数偏高,有些偏低。 第二步:再请一位老师来补充 你意识到第一位老师的打分有误差,于是你请第二位老师来专门 纠正第一位老师的错误 。比如,第一位老师给某个学生打了80分,但你觉得这个学生应该拿85分,那第二位老师就给这个学生增加5分,纠正这个误差。
………………………………