线性回归、岭回归、逻辑回归、信息量与熵、多类的分类问题softmax、链式法则与BP神经网络

线性回归        线性回归是我们比较熟悉的一类回归模型。已知自变量x和因变量y，利用这些值我们可以建立两者之间的线性关系。通常采用最小二乘法来求解。推导过程如下图： 岭回归        当线性回归模型中存在多个相关变量时，它们的系数确定性变差并呈现高方差。比如说，在一个变量上的一个很大的正系数可能被在其相关变量上的类似大小的负系数抵消，岭回归就是通过在系数上施加约束来避免这种现象的发生。岭

>>阅读原文<<