拉格朗日乘子法原理（装载）

时间 2019-11-19

标签拉格朗日原理装载繁體版

原文原文链接

高数里面有一个内容叫作拉格朗日乘子法，用于求解约束条件下的极值问题，过程简单巧妙，也是各种考试的常考题型。函数

然而，拉格朗日乘子法的原理我却一直不是很清楚，这两天在网上查了资料，也说说我本身的理解，用一个例子来解释。blog

求解例题以下：it

$\mathop {\min }\limits_{x,y} \;f\left( {x,y} \right) = {x^2} + {y^2},\;s.t.x + y = 2$ 　　(1)原理

其中min表示求函数f(x,y)的最小值，后面的s.t.表示约束条件，即x,y知足后面的等式。lambda

下面咱们使用拉格朗日乘子法来求解，咱们用g(x,y)描述约束条件，将约束条件改写为im

$g\left( {x,y} \right) = x + y - 2 = 0$ 　　(2)img

然后咱们引入拉格朗日乘子λ，并构造一个新的函数co

$\begin{array}{c} h\left( {x,y} \right) = f\left( {x,y} \right) + \lambda g\left( {x,y} \right)\\ = {x^2} + {y^2} + \lambda x + \lambda y - 2 \end{array}$ 　　(3)360

根据约束条件g(x,y)=0，因而h(x,y)=f(x,y)，所以当f(x,y)取得极小值时有gif

$\left\{ {\begin{array}{*{20}{c}} {\frac{{\partial h\left( {x,y} \right)}}{{\partial x}} = \frac{{\partial f\left( {x,y} \right)}}{{\partial x}} + \lambda \frac{{\partial g\left( {x,y} \right)}}{{\partial x}} = 2x + \lambda = 0}\\ {\frac{{\partial h\left( {x,y} \right)}}{{\partial y}} = \frac{{\partial f\left( {x,y} \right)}}{{\partial y}} + \lambda \frac{{\partial g\left( {x,y} \right)}}{{\partial y}} = 2y + \lambda = 0}\\ {g\left( x \right) = x + y - 2 = 0} \end{array}} \right.$ 　　(4)

联立求解方程组获得

$\left\{ {\begin{array}{*{20}{c}} {x = 1}\\ {y = 1}\\ {\lambda = - 2} \end{array}} \right.$ 　　(5)

因而咱们获得x=y=1时，f(x,y)取得最小值，最小值为2，这就是拉格朗日乘子法的求解过程。

拉格朗日乘子法很是巧妙，但其中的原理却难以琢磨，从几何角度观察此题咱们能够更加直观地理解拉格朗日乘子法的原理以及这个乘子λ的几何含义。

首先咱们观察约束条件g(x,y)=0，在x,y平面上是一条直线以下图中的蓝色直线所示。

再看f(x,y)，令f(x,y)=r这表示f(x,y)的某一条等高线，随着r的改变咱们获得了多条等高线，在下图中以绿色圆圈表示。

在图中，若是某一条等高线f(x,y)=r与直线g(x,y)=0相交，则表示在g(x,y)=0的约束条件下，f(x,y)能够取到r的值。为了求得f(x,y)的最小值，在保证绿色圆圈f(x,y)=r与蓝色直线g(x,y)=0有交点的前提下，逐渐将r缩小，直到绿色等高线圆小到与蓝色直线相切，此时r₀最小，咱们认为f(x,y)得到了最小值f_min=r₀。

下面咱们来计算f_min，在图中咱们看到等高线圆f(x,y)=r₀与约束直线g(x,y)=0相切。此时在切点处，等高线圆与约束直线具备相同的切线方向与法线方向。

又由于等高线f(x,y)=r的切线方向与f(x,y)在该点的梯度方向相互正交，因而f(x,y)=r的法线方向便是f(x,y)的梯度方向，而该梯度方向为

${{\vec G}_f} = \left( {\frac{{\partial f\left( {x,y} \right)}}{{\partial x}},\frac{{\partial f\left( {x,y} \right)}}{{\partial y}}} \right)$ 　　(6)

同理直线g(x,y)=0的法线方向也就是g(x,y)的梯度方向

${{\vec G}_g} = \left( {\frac{{\partial g\left( {x,y} \right)}}{{\partial x}},\frac{{\partial g\left( {x,y} \right)}}{{\partial y}}} \right)$ 　　(7)

在切点处G_f与G_g的方向相同，所以咱们引入乘子λ，而且有

$\begin{array}{l} {{\vec G}_f} = \lambda {{\vec G}_g}\\ \Rightarrow \left\{ {\begin{array}{*{20}{c}} {\frac{{\partial f\left( {x,y} \right)}}{{\partial x}} = \lambda \frac{{\partial g\left( {x,y} \right)}}{{\partial x}}}\\ {\frac{{\partial f\left( {x,y} \right)}}{{\partial y}} = \lambda \frac{{\partial g\left( {x,y} \right)}}{{\partial y}}} \end{array}} \right. \end{array}$ 　　(8)

上式与式(4)相同。到此咱们也已经得到了与拉格朗日乘子法相一致的结论。因而咱们从几何角度解释了拉格朗日乘子引入的过程，也验证了拉格朗日乘子法的结论。