深度学习（二）BP求解过程和梯度下降

一、原理 重点：明白偏导数含义，是该函数在该点的切线，就是变化率，一定要理解变化率。 1）什么是梯度 梯度本意是一个向量（矢量），当某一函数在某点处沿着该方向的方向导数取得该点处的最大值，即函数在该点处沿方向变化最快，变化率最大（为该梯度的模）。   2）代价函数有哪些 0-1损失函数(0-1 loss function):  L(Y,f(X))={1,0,Y≠f(X)Y=f(X) 平方损失函数(

>>阅读原文<<