全局最优解"/>
全局最优解
我们想要的是全局最优解,
但是非凸函数往往求得的是局部最优解。所以η学习率我们就不能设置的太小,太小的话就容易掉到局部最优解内。
η大一点就可能跳出局部最优解找到全局最优解。
不过即便是局部最优解我们也可以接受,只要求得的模型是堪用的,能满足需求,也是OK的。
机器学习中损失函数往往是凸函数
深度学习中损失函数是非凸函数,所以不用担心这一点。
更多推荐
全局最优解
全局最优解"/>
我们想要的是全局最优解,
但是非凸函数往往求得的是局部最优解。所以η学习率我们就不能设置的太小,太小的话就容易掉到局部最优解内。
η大一点就可能跳出局部最优解找到全局最优解。
不过即便是局部最优解我们也可以接受,只要求得的模型是堪用的,能满足需求,也是OK的。
机器学习中损失函数往往是凸函数
深度学习中损失函数是非凸函数,所以不用担心这一点。
更多推荐
全局最优解
发布评论