6. 深度学习实践：深度前馈网络（续）

接上篇：6. 深度学习实践：深度前馈网络 5. 架构设计 5.1 深度 万能近似定理：一个FNN如果具有线性输出层和至少一层具有任何一种挤压性质的激活函数的隐藏层，只要给予网络足够数量的隐藏单元，它能够以任意精度来近似任何从一个有限维空间到另一个有限维空间的Borel可测函数。 该定理意味着：无论我们试图学习什么函数，一个大的MLP一定能够表示这个函数。很完美，是不是？ 但是，我们不能保证训练算法

>>阅读原文<<