算法收敛性、梯度降低与正规方程组、凸函数性质（机器学习先修知识，方便理解）

算法收敛性 算法收敛性在迭代法中的一个概念。 迭代是数值分析中经过从一个初始估计出发寻找一系列近似解来解决问题（通常是解方程或者方程组）的过程，为实现这一过程所使用的方法统称为迭代法（Iterative Method）。 跟迭代法相对应的是直接法（或者称为一次解法），即一次性的快速解决问题，例如经过开方解决方程x+3= 4。通常若是可能，直接解法老是优先考虑的。但当遇到复杂问题时，特别是在未知量不

>>阅读原文<<