图文+代码分析:caffe中全连接层、Pooling层、Relu层的反向传播原理和实现

1.全连接层反向传播 设 C C 为loss 全连接层输入:(bottom_data) a a 全连接层输出:(top_data) z z 假设 a a 维度K_, z z 维度N_,则权值矩阵维度为N_行*K_列,batchsize=M_ 全连接层每个输出 zi=b+∑jwijaj z i = b + ∑ j w i j a j 1.1bottom_diff计算: 对bottom_data求导:
相关文章
相关标签/搜索