优化篇-【激活函数】

【激活函数】 文章目录 【激活函数】 1.什么是激活函数 1.1 什么是激活函数 2. 为什么需要激活函数 2.1.大脑的生物机制 2.2 网络的表达能力 3.激活函数的发展 3.1 激活函数种类 3.2 sigmoid 和 tanh 激活函数 3.2.1.sigmoid 函数优缺点： 3.2.2tanh函数优缺点: 3.3 ReLu激活函数 3.4 Relu激活函数的改进 3.5Maxout函数

>>阅读原文<<