[斯坦福大学2014机器学习教程笔记]第二章-代价函数（1）

    本节经过看一些例子直观地来理解代价函数是用来作什么的以及为何咱们要使用它。

    为了更好理解代价函数的概念，咱们使用简化的代价函数。

    如今有一个训练集，训练集有三个样本。以下图所示。

    咱们先来给θ₁赋值。当θ₁=1时，咱们能够获得一条直线，以下图所示。

    咱们能够计算J(1)=(1/2m)Σ(h_θ(xⁱ)-yⁱ)²=0。

    当θ₁=0.5时，咱们能够获得一条直线，以下图所示。

    实际上，J(θ₁)是下图所画直线平方和*（1/2m）。咱们能够计算J(0.5)=(1/2m)Σ(h_θ(xⁱ)-yⁱ)²=0.58。

        

    经过这样不断计算，咱们能够获得许多J(θ₁)的值。如J(0)=2.3。而后咱们就能画出函数图像（以下图右侧）。

    咱们知道右侧函数的每个点均可以表示左侧的一条直线。而咱们的目标就是找出J(θ₁)取最小值时θ₁的取值，显然咱们能够看到θ₁=1的时候J(θ₁)最小。同时右侧的图像也告诉咱们，当θ₁=1时，咱们已经完美地拟合了这个训练集。这就是为何要最小化J(θ₁)来找到一条最符合数据的直线。

    这一节中，咱们其实简化了函数。咱们使θ₀=0。但在下一节中，咱们会回到原始的函数去观察它的图像。