最小二乘、极大似然估计、梯度下降法

最小二乘、极大似然估计、梯度下降法，是机器学习中常出现的名词。 最小二乘和极大似然是目标函数，梯度下降是优化算法。 机器学习的基本框架基本是模型、目标和算法。 对于一个数据集，根据数据的特点和目的来选择相应的模型。 选择了模型后，为了拟合或分类数据，所以要构造一个目标函数cost function。 构造cost function后，有一部分目标函数，可以直接通过求导求解。 而大部分问题，尤其是l

>>阅读原文<<