手写神经网络

下面是一个只有一个隐层的神经网络，本文的所有工作将基于该网络，同过最简单的神经网络去理解前向传播，计算向量化，激活函数，基于链式法则的反向传播算法。 上图中单个神经元如下 1 前向传播计算 1.1 前向传播表示 为了方便，我们首先给该网络的每一个元素用数学符号表示。如下图 由于每个神经元都有求和与激活两个步骤，所以上面将每个神经元画成求和与激活两个步骤。隐层求和为 { z 1 [ 1 ] = w

>>阅读原文<<