深度学习(花书)学习笔记——第六章 深度前馈网络

深度前馈网络又称多层感知机、前馈神经网络。即只有从x向y方向的传播,最终输出y。 主要包括输入层、隐藏层和输出层。神经网络的模型可以解决非线性问题。 计算网络的参数通过反向传播;如果每一层隐藏层都只有wx+b的运算,则多层累加变为w1*(w2*(w3*x))+a = W*x +a,失去了非线性能力。故每一层后面会加上一个激活层。 实例:学习XOR 单个线性函数无法解决XOR的问题,但是多个线性函数
相关文章
相关标签/搜索