机器学习之降低损失 (Reducing Loss)：梯度下降法

迭代方法图（图 1）包含一个标题为“计算参数更新”的华而不实的绿框。现在，我们将用更实质的方法代替这种华而不实的算法。 假设我们有时间和计算资源来计算 的所有可能值的损失。对于我们一直在研究的回归问题，所产生的损失与 的图形始终是凸形。换言之，图形始终是碗状图，如下所示： 图 2. 回归问题产生的损失与权重图为凸形。 凸形问题只有一个最低点；即只存在一个斜率正好为 0 的位置。这个最小值就是损失函

>>阅读原文<<