解剖caffe:Forward 和 Backward

Forward和Backward是一个网络的基本计算。 先考虑一个logistic regression分类器。 前向通路使用输入计算输出,用于推理。计算模型表示的函数,前向通路从bottom到top。 数据通过内积层传递到, 然通过softmax函数传递到以及softmax损失给 反向通路在损失函数处开始,并计算关于输出的梯度。关于模型其余部分的梯度通过链式规则逐层计算。带有参数的层,比如INN
相关文章
相关标签/搜索