激活函数、损失函数与超参数

激活函数： 激活函数的特点： 输入：标量， 输出；标量 很多激活函数如果画图，都是S形的，称为Sigmoid函数。 常见的有6种： 1.线性变换Linear：f(x) = Wx，用于输入层。直线。 2.Sigmoid函数：可以减少极端值而不用移除它们。0-1之间的S形渐近线。把x的正负无穷转为y的0-1，大多数都在0或1附近。为每个类输出一个独立概率。 人还是车？用sigmoid函数 ，是人吗？是

>>阅读原文<<