花书入门——（第二部分）损失函数，未完待续持续更新

一、神经网络与损失函数的关系 1、损失函数的作用 我们希望：在训练时，如果预测值与实际值的误差越大，那么在反向传播的过程中，各种参数调整的幅度就要更大，从而使训练更快收敛。 1）Loss layer 是网络的终点，输入为预测值和真实标签。损失层则将这两个输入进行一系列运算，得到当前网络的损失函数（Loss Function），一般记做L(θ）其中θ是当前网络权值构成的向量空间。 2） Loss l

>>阅读原文<<