深度学习基础之-4.1非线性回归-激活函数

非线性回归 当神经网络不是一层的时候,就需要对每一层的输出加一个激活函数,将输出进行非线性的映射,否则不论网络有多少层,线性的变换永远可以视为一次线性的变换,不能解决复杂问题 激活函数 看神经网络中的一个神经元,为了简化,假设该神经元接受三个输入,分别为 x 1 , x 2 , x 3 x_1, x_2, x_3 x1​,x2​,x3​,那么 z = ∑ i w i x i + b i z=\su
相关文章
相关标签/搜索