机器学习#2：最优化与反向传播

1.最优化 最优化的过程就是不断更改W的参数使目标函数更小的过程，换句话说，对于公式 ，我们的目标就是找到一个能使Loss取到最小值的W。 那应该如何找到这个W呢？ 算法一：随机生成多个W，选择Loss最小的，这个方法简单易行，但效率过于低下。 算法二：对于某个随机生成W，每次随机生成一个微小值，当的Loss更小时更新W，虽然比算法一好，但效率还是太低。 算法三：跟随梯度。实际上可以通过计算得到W

>>阅读原文<<