深度学习哪些常用的激活函数及优缺点

互联网提供了大量的信息，我们只需要一个搜索引擎就可以获取。然而，当大量的信息扑面而来，究竟如何区分相关信息和无关信息呢？ 大脑在得到大量信息时，会努力理解和分类有用信息和不那么有用的信息。而在深度学习中，我们也需要一种类似的机制来分类传入的信息。 不是所有信息都是有用的，一些只是噪音。激活函数可以帮助神经网络做这种隔离。它激活有用的信息，并抑制无关的数据点。 激活函数如此重要，那么都有哪些比较热门

>>阅读原文<<