带你深入AI（2）- 深度学习激活函数，准确率，优化方法等总结

1 引言 深度学习训练的基本步骤相信大家都很清楚，本节着重来讲解训练中使用到的激活函数，准确率函数，优化函数都有哪几种，以及它们之间的比较。 2 激活函数 根据奥卡姆剃刀法则，神经网络采用的是最简单的线性模型 f(x) = wx+b, 并且线性模型的组合仍然为线性模型。但我们要解决的大部分问题又不仅仅是一个线性问题，因此在线性模型中增加非线性元素就显得尤其重要了。激活函数正是增加非线性的一个重要手

>>阅读原文<<