【Caffe笔记】二.Forward and Backward(前传/反传)

    前传和后传是一个网络最重要的计算过程。 1.前传     前传过程为给定的待推断的输入计算输出,Caffe组合每一层的计算一得到整个模型的计算函数,自底向上进行。 2.反传     反传过程根据损失来计算梯度从而进行学习,Caffe通过自动求导并反向组合每一层的梯度来计算整个网络的梯度,自顶向下进行。     反传过程以损失开始,根据输出计算梯度。根据链式准则,逐层计算出模型其余部分的梯度
相关文章
相关标签/搜索