梯度下降(Gradient Descent) [cs229学习笔记]

本文对应的是吴恩达老师的CS229机器学习的第二课。这节课先介绍了线性回归；然后讲述了两个简单的优化方法，批梯度下降和随机梯度下降；最后推导了矩阵形式的线性回归。 为防止符号混淆，本文中 i i i 表示样本序号， j j j 表示特征序号， n n n 表示样本数量， m m m 表示特征数量 损失函数(loss function) 简单起见，这节课研究的函数为线性回归。所谓回归，指的就是对某一

>>阅读原文<<