深度学习基础(一）:sigmoid/softmax/cross Entropy

在分类中，首先对于Logistic回归: 从上图可以看出， 很明显，其输出f(x;wb)主要是一些连续的实数，可以用于线性回归，但是对于分类问题无法进行直接进行分类预测，这里需要引入非线性的决策函数g(.)—这里我认为就是激活函数，使其输出从连续的实数转换到一些离散的标签。 对于激活函数，可分为一下： 其中tanh、relu、以及leaky relu激活函数相比sigmoid和softmax不适用

>>阅读原文<<