误差反向传播到底是个啥?

反向传播用来计算导数,但这个不是反向传播的特性,这个导数怎么算是要自己来写的!把每一层的结点的导数计算公式封装在结点内部后,再来使用反向传播,反向传播的特性就是:链式法则,或者说反向传播是符合链式法则的,有了这个前提,我们才可以进行导数的反向传播。 所以说,反向传播说白了就是: 把一个复合函数拆分为组成它的子函数,逐个求导,然后导数依次往前面的层传递,叫反向是因为这个过程在网络里是从后往前的! 那
相关文章
相关标签/搜索