梯度下降是门手艺活

文章预览

↑ 点击 蓝字  关注极市平台 作者丨冯超@知乎（已授权） 来源丨https://zhuanlan.zhihu.com/p/21486804 编辑丨极市平台 极市导读   梯度下降法作为大家耳熟能详的优化算法，极易理解。但虽然和的一些方法比起来在寻找优化方向上比较轻松，可是这个步长却需要点技巧。本文作者通过简单的函数举例说明梯度下降中容易出现的问题。 >> 加入极市CV技术交流群，走在计算机视觉的最前沿 本文收录在无痛的机器学习第一季（ https://zhuanlan.zhihu.com/p/22464594 ）。 机器学习所涉及的内容实在是太多了，于是我决定挑个软柿子捏起，从最基础的一个优化算法开始聊起。这个算法就是梯度下降法，英文Gradient Descent。 什么是梯度下降法 作为大众耳熟能详的优化算法，梯度下降法受到的关注不要太多。梯度下降法极易理解，但凡学过一点数学的童鞋都知道，梯度方向表 ………………………………