tensorflow学习笔记——常用的激活函数

1.sigmoid 公式: 图像: 从图中可以看到,sigmoid激活函数会将所有输入都转到0-1范围内。如此之外,它的倒数有一个常用到的性质: 即它的倒数可由自身表示。 优点:它输出映射在0-1内,单调连续,可以用来作分类,并且求导比较容易; 缺点:具有软饱和性,一旦输入过大或过小,一阶导数就变得接近于0,很容易产生梯度消失的现象。 tesorflow使用:tf.sigmoid(x) 2.tan
相关文章
相关标签/搜索