白话机器学习 | 梯度下降

文章预览

小宇： 闪客，上次你讲《 白话机器学习 | 损失函数 》讲得我是豁然开朗！ 但后面那个"高维曲面"把我真是吓到了。 闪客：哈哈别怕，上次画那个图就是为了吓你的，我想表达的就是，虽然通过导数为 0 这种传统的方法可以直接求出最低点，但一旦函数非常复杂这个方法就不好用了，就迫使我们找找其他办法。 小宇：你为什么拿图吓唬我？是不是显着你了！ 闪客：额没有没有，我向你道歉，我们赶紧进入正题吧。 小宇：好，那你快告诉我什么是梯度下降呢？ 闪客：别急，直接告诉你可不是我的风格，我们先不要管什么梯度下不下降的，先来想想我们的目的是什么。 小宇：嗯目的我还是清晰的，就是我们想求解一个叫损失函数的最小值，比如 L(w, b) 甚至更多维的 L(w₁, w₂, ..., b)。 闪客：没错，但最终目标可不是知道这个最小值是多少。 小宇： ………………………………