深度学习中的优化简介

  深度学习算法在许多状况下都涉及到优化。git         1. 学习和纯优化有什么不一样github         在大多数机器学习问题中，咱们关注某些性能度量P，其定义于测试集上而且多是不可解的。所以，咱们只是间接地优化P。咱们系统经过下降代价函数J(θ)来提升P。这一点与纯优化不一样，纯优化最小化目标J自己。训练深度模型的优化算法一般也会包括一些针对机器学习目标函数的特定结构进行的特

>>阅读原文<<