【机器学习】代价函数和梯度下降法

一、简介 梯度下降法是机器学习中最为基础和常用的算法之一，其核心思想是通过求梯度的方法来找到代价函数的最小值，从而解决相应的拟合或者分类问题。而要想理解梯度下降算法，首先应该了解什么是代价函数。 二、代价函数 代价函数本质来说就是用来表示拟合函数的理想输出与实际输出之间的差距的一种函数。也就是说差距越大，算法学习的代价也就越大，所以梯度下降法的本质也就是不断地优化代价函数。 1、平方差代价函数 解

>>阅读原文<<