跳到主要内容
返回时间线
arXiv来源发表:

可逆神经网络学出Morse型Lyapunov函数:只要平衡点双曲,紧集上就能给出稳定性证书

核心概要

对平衡点双曲的动力系统,可逆神经网络可以在紧集上逼近Morse型Lyapunov函数,从而给出全局渐近稳定的证书。此前用神经网络学Lyapunov函数只保证某种范数下的逼近,而Lyapunov不等式需要控制导数,这类逼近不足以构成证书。做法是把Morse型Lyapunov函数写成某个微分同胚的范数平方,再用神经ODE构造可逆网络,在Sobolev范数下逼近该微分同胚。

Source-provided article image: Learning Morse Lyapunov functions through invertible neural networks
arXiv

深度剖析

稳定性证书的搜索空间从一般光滑函数收窄到Morse型Lyapunov函数,即临界点处Hessian非奇异的Lyapunov函数,并证明这类函数足以覆盖平衡点双曲的系统。 此前已知存在系统连多项式、凸或局部实解析的Lyapunov函数都不存在,甚至存在完全不存在Morse型Lyapunov函数的平面系统。 对平衡点双曲的向量场,存在光滑Morse型Lyapunov函数证明该平衡点全局渐近稳定;这一存在性结论来自配套工作,本文在其上建立逼近理论。

Morse型Lyapunov函数可以写成某个微分同胚的范数平方,因此可以用可逆神经网络来参数化。 此前的耦合型可逆网络只被证明在Lp或上确界范数下具有万能逼近性,而这些范数不控制导数。 神经ODE构成的可逆网络在Sobolev范数下是微分同胚的万能逼近器,该结论引自Ishikawa等2023年的工作。

只要Sobolev逼近误差足够小,网络输出的函数就在紧集上满足Lyapunov不等式,从而在该紧集上证明全局渐近稳定。 仅靠上确界范数接近真实Lyapunov函数并不能保证仍是有效Lyapunov函数,因为微小扰动可能破坏沿轨道的严格下降。 定理5给出紧邻域上所需的逼近精度与Lyapunov不等式成立之间的定量关系,证明用到中值定理和函数的凸性。

启示与展望

讨论限定在平衡点双曲、且系统定义在整个空间上的光滑动力系统;定理5的万能逼近部分依赖神经ODE的结果,因此要求光滑性阶数至少为2。非双曲情形下,推论7只保证在去掉平衡点附近球体的环域上成立,对应实用渐近稳定。数值实验只涉及平面系统,用于图示上述结论。

非双曲平衡点处,网络并不被强制在平衡点附近具备所需结构,因此保证只落在环域上。PLNet一类架构需要选取合适的畸变参数,该参数可能很大,而它对收敛的影响尚无精确刻画。作者把其他架构的逆定理和严格的数值分析列为后续工作。