反向传播算法如何工作

ia_200008027 前面一章，我们通过了梯度下降算法实现目标函数的最小化，从而学习了该神经网络的权重和偏置，但是有一个问题并没有考虑到，那就是如何计算代价函数的梯度，本章的重点就是介绍计算这些梯度的快速算法——反向传播算法，首先先介绍一下上图中以及下面文章中会出现的一些数学符号：  : 表示网络层数  : 表示第 层的第 个神经元的偏置  : 表示第 层的第 个神经元的激活值  : 表示从

>>阅读原文<<