拉格朗日乘数法

拉格朗日乘数法

拉格朗日乘数法(Lagrange Multiplier Method)是数学优化中处理等式约束极值问题的经典方法。它通过引入“拉格朗日乘子”,巧妙地将一个有约束的问题转化为无约束的问题。


1. 核心思想:几何上的“相切”

对于目标函数 和约束条件

  • 直观理解:想象目标函数 的等高线。当你沿着约束曲线 运动时,如果你还能走向更高或更低的等高线,说明还没达到极值。
  • 关键结论:极值点必然出现在目标函数等高线与约束曲线相切的地方。
  • 数学表达:在切点处,两者的梯度向量(垂直于曲线的方向)是平行的。即: 这里的 就是拉格朗日乘子

2. 计算步骤:四步走

假设要求 在约束 下的极值:

  1. 构造拉格朗日函数 注:减号改加号也可以,不影响最终 的求解。
  2. 求偏导并置零: 对所有自变量 和乘子 分别求偏导,令其等于 0:
  3. 解方程组:算出所有的驻点
  4. 确定极值:将得到的驻点代入原函数 ,通过比较数值大小或结合实际背景判断最大值或最小值。

3. 经典示例

问题:求 在约束 下的最大值。

  • 构造函数
  • 求导
  • 求解:联立得
  • 结果:最大值为

4. 局限

  • 仅限等式:该方法原生只支持
  • 不等式约束:如果约束是 ,则需要升级到 KKT 条件(Karush-Kuhn-Tucker)。
  • 驻点非极值:求出的是驻点,还需要根据海森矩阵(Hessian Matrix)或物理意义确认是否为真正的极值点。