一元函数f(x),如果对于任意均满足:,则称f(x)为凸函数(convex function)
如果对于任意均满足:,则称f(x)为严格凸函数
我们可以从几何上直观地理解凸函数的特点,如下图所示:即凸函数的割线在函数曲线的上方
二次导数f''(x)大于零,一次导数f'(x)递增,函数f(x)下降的趋势越来越缓(或上升的趋势越来越大)
上面的公式,完全可以推广到多元函数。在数据科学的模型求解中,如果优化的目标函数是凸函数,则局部极小值就是全局最小值。这也意味着我们求得的模型是全局最优的,不会陷入到局部最优值。