1.线性回归的推导--梯度下降法

1.在线性回归问题中，我们通常使用下面公式来拟合训练集： 其中,为特征向量的个数； 2.如图假设x是二维的，则有 3.  我们可以将损失函数表示为： 4.  我们将目标函数转成求损失函的最小值，该问题已经转换成了最小二乘问题，因此我们可以使用梯度下降法对求最小值。       1） 首先,为了简化问题，我们假设只有一组样本,即m=1，对求偏导有： 2).其梯度下降的迭代公式可表示为： 其中，a表示

>>阅读原文<<