前向后向传播算法

文章内容是我在《深度之眼》学习《DEEP LEARNING》过程中的作业笔记。 在推导过程中使用的简化版神经网络结构如图1所示。 图1  神经网络简化图 假设X为N*M矩阵(即 输入包含N条样本，每条样本包含M维特征） h1与z1的维数为m1为m*m1的矩阵，（注：神经网络中处理bias单元通常有两种方式，第一种处理方式是bias本身值为1，但它连接各个神经元的权重不为1，即---整个神经网络只有

>>阅读原文<<