深度学习-全连接层

本篇文章将讲述关于全连接层的一些基本概念。首先将完全连接的层视为具有以下属性的黑匣子:在正向传播上1.具有3个输入(输入信号,权重,偏置)2.具有1个输出,关于反向传播1.具有1个输入(dout),其大小与输出相同。2.具有3个(dx,dw,db)输出,其大小与输入相同。 计算图的观点 为了发现每个输入如何影响输出(反向传播),最好将算法表示为计算图: 扩大批量 到目前为止,所有示例都只处理输入中
相关文章
相关标签/搜索