深度学习(二):传统神经网络

标签: 深度学习CNN神经网络知识总结 2017-03-20 20:19 121人阅读 评论(0) 收藏 举报 分类: 深度学习(5) 版权声明:本文为博主原创文章,未经博主允许不得转载。 一、常用的非线性激励函数 1.Sigmoid 优点:输出可以映射到[0,1] 缺点:一次求导后梯度损失了75%,梯度损失严重 2.Than 优点:输出可以映射到[-1,1] 缺点:梯度损失明显 3.Relu 特
相关文章
相关标签/搜索