庞特里亚金极小值原理的详细推导

文章目录

庞特里亚金极小值原理的详细推导

一、问题陈述

考虑如下连续时间最优控制问题:寻找容许控制 u ( t ) ∈ Ω u(t) \in \Omega u(t)∈Ω,使受控系统

x ˙ ( t ) = f ( x ( t ) , u ( t ) , t ) , x ( t 0 ) = x 0 (1) \dot{x}(t) = f(x(t), u(t), t), \qquad x(t_0) = x_0 \tag{1} x˙(t)=f(x(t),u(t),t),x(t0)=x0(1)

从固定初态 x 0 x_0 x0出发,在固定终端时刻 t f t_f tf达到自由终端状态 x ( t f ) x(t_f) x(tf),并使性能指标

J ( u ) = h ( x ( t f ) , t f ) + ∫ t 0 t f g ( x ( t ) , u ( t ) , t )   d t (2) J(u) = h(x(t_f), t_f) + \int_{t_0}^{t_f} g(x(t), u(t), t) \, dt \tag{2} J(u)=h(x(tf),tf)+∫t0tfg(x(t),u(t),t)dt(2)

取极小值。其中 h h h与 g g g连续可微,终端状态 x ( t f ) x(t_f) x(tf)不受任何额外约束(终端自由情形),控制变量 u ( t ) u(t) u(t)暂不考虑饱和约束(即内部最优解)。

二、最优性的一阶必要条件

设 ( x ∗ , u ∗ ) (x^*, u^*) (x∗,u∗)为该问题的最优解,对应性能指标值为 J ∗ J^* J∗。现在考虑对最优轨迹施加一个任意的小扰动 δ x \delta x δx与 δ u \delta u δu,得到一条邻近的容许轨迹,其性能指标为 J ∗ + Δ J J^* + \Delta J J∗+ΔJ。

由于 J\^\* 是极小值,无论扰动方向如何,性能指标的增量都必须满足

Δ J = J ( x ∗ + δ x , u ∗ + δ u ) − J ( x ∗ , u ∗ ) ≥ 0 (3) \Delta J = J(x^* + \delta x, u^* + \delta u) - J(x^*, u^*) \ge 0 \tag{3} ΔJ=J(x∗+δx,u∗+δu)−J(x∗,u∗)≥0(3)

\\Delta J 展开为关于小扰动 (\\delta x, \\delta u) 的级数:

Δ J = δ J + 高阶项 (4) \Delta J = \delta J + \text{高阶项} \tag{4} ΔJ=δJ+高阶项(4)

其中 \\delta J 称为性能指标的一阶变分(即线性主部),高阶项为 ∥ δ x ∥ 2 \|\delta x\|^2 ∥δx∥2或 ∥ δ u ∥ 2 \|\delta u\|^2 ∥δu∥2量级,在扰动足够小时可以忽略。

现在用反证法证明 δ J = 0 \delta J = 0 δJ=0。假设 δ J ≠ 0 \delta J \neq 0 δJ=0,则有两种情形:

  • 若 δ J > 0 \delta J > 0 δJ>0,则将扰动方向取反,即令 ( − δ x , − δ u ) (-\delta x, -\delta u) (−δx,−δu)。由于一阶变分是线性的,反方向的变分必然为 $-\delta J < 0 )。此时 Δ J ≈ − δ J < 0 \Delta J \approx -\delta J < 0 ΔJ≈−δJ<0,意味着性能指标将小于 J ∗ J^* J∗,这与 J ∗ J^* J∗的极小性矛盾。
  • 若 δ J < 0 \delta J < 0 δJ<0,则当前扰动本身已使 Δ J < 0 \Delta J < 0 ΔJ<0,同样与极小性矛盾。

因此,唯一可能的情形是

δ J = 0 \delta J = 0 δJ=0

式 (5) 即为一阶最优性必要条件。它的物理含义十分朴素:在极值点处,沿任意方向的一阶变化率都必须为零,否则总能沿着使指标下降的方向调整,从而得到更小的目标值。这一点完全等价于一元微积分中"可导极值点处导数必为零"的费马引理,只是此处将导数推广为变分。

三、约束处理与增广泛函

状态变量与控制变量并非相互独立,二者必须服从微分方程约束 (1)。为了将这一动态约束纳入变分框架,引入协态变量 (即动态拉格朗日乘子) λ ( t ) \lambda(t) λ(t),构造增广泛函:

J a = h ( x ( t f ) ) + ∫ t 0 t f g ( x , u , t ) + λ T ( t ) ( f ( x , u , t ) − x ˙ ( t ) ) d t (5) J_a = h(x(t_f)) + \int_{t_0}^{t_f} \left g(x,u,t) + \\lambda\^T(t) \\big( f(x,u,t) - \\dot{x}(t) \\big) \\right dt \tag{5} Ja=h(x(tf))+∫t0tfg(x,u,t)+λT(t)(f(x,u,t)−x˙(t))dt(5)

由于约束 (1) 在可行轨迹上恒成立,增广泛函与原始性能指标在可行域上取值相等。定义哈密顿函数

H ( x , u , λ , t ) = g ( x , u , t ) + λ T ( t ) f ( x , u , t ) (6) H(x, u, \lambda, t) = g(x, u, t) + \lambda^T(t) f(x, u, t) \tag{6} H(x,u,λ,t)=g(x,u,t)+λT(t)f(x,u,t)(6)

则增广泛函可简写为

J a = h ( x ( t f ) ) + ∫ t 0 t f H ( x , u , λ , t ) − λ T ( t ) x ˙ ( t ) d t (7) J_a = h(x(t_f)) + \int_{t_0}^{t_f} \left H(x, u, \\lambda, t) - \\lambda\^T(t) \\dot{x}(t) \\right dt \tag{7} Ja=h(x(tf))+∫t0tfH(x,u,λ,t)−λT(t)x˙(t)dt(7)

四、对状态变量与控制变量取变分

根据多变量偏导数的处理逻辑,我们首先固定协态变量 λ ( t ) \lambda(t) λ(t)不变(即令 δ λ = 0 \delta \lambda = 0 δλ=0),仅考察状态轨迹与控制轨迹的变化对增广泛函的影响。对 (7) 式取变分,得

δ J a = δ h ( x ( t f ) ) + ∫ t 0 t f δ H − δ ( λ T x ˙ ) d t (8) \delta J_a = \delta h(x(t_f)) + \int_{t_0}^{t_f} \left \\delta H - \\delta(\\lambda\^T \\dot{x}) \\right dt \tag{8} δJa=δh(x(tf))+∫t0tfδH−δ(λTx˙)dt(8)

逐项展开:

(1)终端项的变分:

δ h ( x ( t f ) ) = ∂ h ∂ x ( t f )   δ x ( t f ) (9) \delta h(x(t_f)) = \frac{\partial h}{\partial x(t_f)} \, \delta x(t_f) \tag{9} δh(x(tf))=∂x(tf)∂hδx(tf)(9)

(2)哈密顿函数的变分(固定 λ \lambda λ,故 δ λ = 0 \delta \lambda = 0 δλ=0):

δ H = ∂ H ∂ x δ x + ∂ H ∂ u δ u (10) \delta H = \frac{\partial H}{\partial x} \delta x + \frac{\partial H}{\partial u} \delta u \tag{10} δH=∂x∂Hδx+∂u∂Hδu(10)

(3)乘积项的变分(固定 λ \lambda λ,仅 x ˙ \dot{x} x˙变分):

δ ( λ T x ˙ ) = λ T δ x ˙ (11) \delta(\lambda^T \dot{x}) = \lambda^T \delta \dot{x} \tag{11} δ(λTx˙)=λTδx˙(11)

将 (9)、(10)、(11) 式代入 (8) 式,得到

δ J a = ∂ h ∂ x ( t f ) δ x ( t f ) + ∫ t 0 t f ∂ H ∂ x δ x + ∂ H ∂ u δ u − λ T δ x ˙ d t (12) \delta J_a = \frac{\partial h}{\partial x(t_f)} \delta x(t_f) + \int_{t_0}^{t_f} \left \\frac{\\partial H}{\\partial x} \\delta x + \\frac{\\partial H}{\\partial u} \\delta u - \\lambda\^T \\delta \\dot{x} \\right dt \tag{12} δJa=∂x(tf)∂hδx(tf)+∫t0tf∂x∂Hδx+∂u∂Hδu−λTδx˙dt(12)

五、分部积分与边界项提取

积分中带有 δ x ˙ \delta \dot{x} δx˙的项无法直接与其它含 δ x \delta x δx的项合并,需通过分部积分将时间导数从变分符号上移走:

− ∫ t 0 t f λ T δ x ˙   d t = − λ T δ x t 0 t f + ∫ t 0 t f λ ˙ T δ x   d t (13) -\int_{t_0}^{t_f} \lambda^T \delta \dot{x} \, dt = -\left \\lambda\^T \\delta x \\right{t_0}^{t_f} + \int{t_0}^{t_f} \dot{\lambda}^T \delta x \, dt \tag{13} −∫t0tfλTδx˙dt=−λTδxt0tf+∫t0tfλ˙Tδxdt(13)

展开边界项:

λ T δ x t 0 t f = − λ T ( t f ) δ x ( t f ) + λ T ( t 0 ) δ x ( t 0 ) (14) -\left \\lambda\^T \\delta x \\right_{t_0}^{t_f} = -\lambda^T(t_f) \delta x(t_f) + \lambda^T(t_0) \delta x(t_0) \tag{14} −λTδxt0tf=−λT(tf)δx(tf)+λT(t0)δx(t0)(14)

由于初值固定, δ x ( t 0 ) = 0 \delta x(t_0) = 0 δx(t0)=0,因此 (14) 式化为

− λ T ( t f ) δ x ( t f ) (15) -\lambda^T(t_f) \delta x(t_f) \tag{15} −λT(tf)δx(tf)(15)

将 (15) 式与 (13) 式的积分项代回 (12) 式,得到

δ J a = ∂ h ∂ x ( t f ) δ x ( t f ) − λ T ( t f ) δ x ( t f ) + ∫ t 0 t f ∂ H ∂ x δ x + ∂ H ∂ u δ u + λ ˙ T δ x d t (16) \delta J_a = \frac{\partial h}{\partial x(t_f)} \delta x(t_f) - \lambda^T(t_f) \delta x(t_f) + \int_{t_0}^{t_f} \left \\frac{\\partial H}{\\partial x} \\delta x + \\frac{\\partial H}{\\partial u} \\delta u + \\dot{\\lambda}\^T \\delta x \\right dt \tag{16} δJa=∂x(tf)∂hδx(tf)−λT(tf)δx(tf)+∫t0tf∂x∂Hδx+∂u∂Hδu+λ˙Tδxdt(16)

合并终端同类项,并整理积分内部含 δ x \delta x δx的项:

δ J a = ∂ h ∂ x ( t f ) − λ T ( t f ) δ x ( t f ) + ∫ t 0 t f ( ∂ H ∂ x + λ ˙ T ) δ x + ∂ H ∂ u δ u d t (17) \delta J_a = \left \\frac{\\partial h}{\\partial x(t_f)} - \\lambda\^T(t_f) \\right \delta x(t_f) + \int_{t_0}^{t_f} \left \\left( \\frac{\\partial H}{\\partial x} + \\dot{\\lambda}\^T \\right) \\delta x + \\frac{\\partial H}{\\partial u} \\delta u \\right dt \tag{17} δJa=∂x(tf)∂h−λT(tf)δx(tf)+∫t0tf(∂x∂H+λ˙T)δx+∂u∂Hδudt(17)

六、必要条件与终端横截条件的导出

由第二节证明的最优性必要条件 δ J a = 0 \delta J_a = 0 δJa=0,式 (17) 必须对所有容许变分 δ x \delta x δx、 δ u \delta u δu以及自由终端扰动 δ x ( t f ) \delta x(t_f) δx(tf)恒成立。

(1)积分内部项 :由于 δ x \delta x δx与 δ u \delta u δu在开区间 ( t 0 , t f ) (t_0, t_f) (t0,tf)内完全独立且任意,其系数必须逐点为零。由此得到

λ ˙ T = − ∂ H ∂ x ⟹ λ ˙ = − ∂ H ∂ x (18) \dot{\lambda}^T = -\frac{\partial H}{\partial x} \quad \Longrightarrow \quad \dot{\lambda} = -\frac{\partial H}{\partial x} \tag{18} λ˙T=−∂x∂H⟹λ˙=−∂x∂H(18)

(此为协态方程

以及

∂ H ∂ u = 0 (19) \frac{\partial H}{\partial u} = 0 \tag{19} ∂u∂H=0(19)

(此为控制方程

(2)终端边界项 :由于终端状态 x ( t f ) x(t_f) x(tf)可自由取值,故 δ x ( t f ) \delta x(t_f) δx(tf)是任意的非零向量。为使式 (17) 对任意 δ x ( t f ) \delta x(t_f) δx(tf)均成立,唯一可能是其系数为零:

∂ h ∂ x ( t f ) − λ T ( t f ) = 0 \frac{\partial h}{\partial x(t_f)} - \lambda^T(t_f) = 0 ∂x(tf)∂h−λT(tf)=0

移项即得终端横截条件

λ ( t f ) = ∂ h ∂ x ( t f ) (20) \lambda(t_f) = \frac{\partial h}{\partial x(t_f)} \tag{20} λ(tf)=∂x(tf)∂h(20)

该条件表明:在终端自由的情形下,最优轨迹终点处的协态向量必须精确等于终端代价函数对终点状态的梯度。

七、对协态变量变分与状态方程的恢复

为完备起见,对增广泛函 (7) 关于 λ \lambda λ取变分。仅提取显含 λ \lambda λ的部分:

δ J a ∣ δ λ = ∫ t 0 t f δ λ T ( f ( x , u , t ) − x ˙ ) d t (21) \delta J_a \big|{\delta \lambda} = \int{t_0}^{t_f} \delta \lambda^T \big( f(x,u,t) - \dot{x} \big) dt \tag{21} δJa δλ=∫t0tfδλT(f(x,u,t)−x˙)dt(21)

由 δ J a = 0 \delta J_a = 0 δJa=0且 δ λ \delta \lambda δλ在区间内任意,得到

f ( x , u , t ) − x ˙ = 0 ⟹ x ˙ = f ( x , u , t ) (22) f(x,u,t) - \dot{x} = 0 \quad \Longrightarrow \quad \dot{x} = f(x,u,t) \tag{22} f(x,u,t)−x˙=0⟹x˙=f(x,u,t)(22)

此即原始状态方程,说明引入的协态变量并未改变原问题的约束本质。

八、结论

综上所述,对于终端固定、终端状态自由的最优控制问题,庞特里亚金极小值原理给出如下一阶必要条件系统:

方程名称 数学表达式
状态方程 x ˙ = ∂ H ∂ λ = f ( x , u , t ) \dot{x} = \dfrac{\partial H}{\partial \lambda} = f(x,u,t) x˙=∂λ∂H=f(x,u,t)
协态方程 λ ˙ = − ∂ H ∂ x \dot{\lambda} = -\dfrac{\partial H}{\partial x} λ˙=−∂x∂H
控制方程 ∂ H ∂ u = 0 \dfrac{\partial H}{\partial u} = 0 ∂u∂H=0
终端横截条件 λ ( t f ) = ∂ h ∂ x ( t f ) \lambda(t_f) = \dfrac{\partial h}{\partial x(t_f)} λ(tf)=∂x(tf)∂h

其中,终端横截条件直接源于分部积分后在自由终端处遗留的边界项,是消除该边界残留项的自然数学条件。该推导完整展示了变分法、拉格朗日乘子法与庞特里亚金极大值原理之间的内在统一性。

相关推荐
余俊晖26 分钟前
Self-OPD:去掉教师机的流匹配模型 On-Policy 蒸馏
人工智能·算法·机器学习
手写码匠27 分钟前
华为云Flexus+DeepSeek征文|华为云MaaS DeepSeek推理服务 × Flexus云服务器 × Dify一键部署:性能评测实战
人工智能·深度学习·算法·aigc
啥都想学点的研究生1 小时前
一篇文章讲清楚:逻辑回归
算法·机器学习·逻辑回归
货拉拉技术2 小时前
Agent 场景下 Token 成本优化的实战技巧
算法
hahaha60162 小时前
HLS高层次综合设计技巧--循环merge和循环split
人工智能·算法·计算机视觉
JAI科研2 小时前
Deepseek Agent Harness教程(七) | Deepseek Harness不是一个内核加一堆插件
开发语言·人工智能·深度学习·算法·自然语言处理·transformer·vllm
集思广益的灰太狼3 小时前
变频器启动致PLC数据异常?西门子G120配合滤波器EMC抑制方案
人工智能·算法·工控·emc·电磁兼容·变频器·西门子
方方洛3 小时前
vllm教程-03-架构设计
算法·架构
玄昌盛不会编程3 小时前
LeetCode——2091. 从数组中移除最大值和最小值
java·算法·leetcode