深度学习——PyTorch实战计算机视觉5

激活函数 举例： 没有激活函数的单层神经网络模型，数学表示： 大写字母表示矩阵或张量。 有激活函数和偏置项的二层神经网络：（设激活条件为：若输入值大于0，输出该值，反之输出0） 上式是偏置为3的函数。偏置可以让模型偏离原点，而没有偏置项的函数必然会经过原点。模型偏离原点的好处是：能使模型具有更强的变换能力，面对不同的数据可以有更好的泛化力。增加偏置项后没有激活的单层神经网络模型的数学表示： 加入激

>>阅读原文<<