优化算法——凸优化的概述

一、引言    在机器学习问题中，很多的算法归根到底就是在求解一个优化问题，然而我们的现实生活中也存在着很多的优化问题，例如道路上最优路径的选择，商品买卖中的最大利润的获取这些都是最优化的典型例子，前面也陆续地有一些具体的最优化的算法，如基本的梯度下降法，牛顿法以及启发式的优化算法(PSO,ABC等)。 二、凸函数 凸函数如下图所示： 一个函数是凸函数是它存在最优解的充分必要条件。 三、三类优化问

>>阅读原文<<