坐标下降法

1.坐标下降法 坐标下降法,是一种非梯度优化算法,算法在每次迭代中，在当前点处沿一个坐标方向进行一维搜索以求得一个函数的局部极小值。在整个过程中循环使用不同的坐标方向。对于不可拆分的函数而言，算法可能无法在较小的迭代步数中求得最优解。为了加速收敛，可以采用一个适当的坐标系，例如通过主成分分析获得一个坐标间尽可能不相互关联的新坐标系. 对于一个函数,变量个数为n,也即坐标轴有n个,那么在固定n-1个

>>阅读原文<<