深度学习--激活函数的对比分析

本博客仅为作者记录笔记之用，不免有很多细节不对之处。还望各位看官能够见谅，欢迎批评指正。   在学习神经网络的时候，你会经常听到一个词：激活函数。在最开始学习的时候，对激活函数总是有很多的疑惑。在日常搭建网络的时候选择激活函数也是很随意，看到大家都说ReLU效果好，就一股脑使用ReLU。通常没去深究一些问题： 激活函数到底是什么？ 为什么要使用激活函数？ 常用的激活函数有哪些？ 这些常用的激活函数

>>阅读原文<<