跳到主要内容
返回时间线
arXiv来源发表:

签名核岭回归有了有限样本误差界:重尾路径数据下超额风险仍按样本数衰减

核心概要

路径签名能把路径空间上的函数逼近到任意精度,但此前不清楚需要多少数据才能定出合适的签名泛函。这项工作在签名核岭回归框架下,对签名核与响应变量分别施加矩条件,给出有限样本的超额风险界与一致性保证;当驱动路径是布朗运动、常规矩条件不成立时,改用更弱的有限矩假设与 Fuk-Nagaev 不等式,仍得到同阶的衰减率。

AI-generated editorial illustration: Statistical guarantees for signature kernel ridge regression

深度剖析

路径空间上的回归现在有了显式的有限样本误差界,而不只是“签名线性泛函可以逼近任意函数”的表达能力结论。 此前的通用逼近结果只说明签名线性泛函在原理上足够表达路径空间上的函数,却不回答识别一个合适签名泛函需要多少数据。 在签名核与响应变量的强矩假设下,以 Bernstein 不等式为基础,对正则化参数取特定尺度时,超额风险以至少给定概率被控制住,且随样本数增大而消失。

误差分析把估计误差拆成逼近误差与有限样本统计误差两部分,前者由积分算子的谱分解刻画。 签名核岭回归的估计量是再生核希尔伯特空间中由核展开的有限维解,误差需要相对于最优函数来衡量。 在时间增广布朗运动等满足可积与稠密性假设的分布上,理论结果与三个数值例子一起展示超额风险随样本数的渐近行为,以及最优惩罚系数的变化。

对布朗运动驱动的签名核,常规矩条件可证明不成立,分析因此改用只要求有限阶矩的假设。 Bernstein 型集中不等式要求次指数型矩增长,而时间增广布朗运动的签名核矩按特定阶数增长,不满足该条件。 在有限矩假设下用 Fuk-Nagaev 不等式替代 Bernstein 不等式,得到与轻尾情形同阶的超额风险界,代价是对正则化参数施加更强的下界条件。

启示与展望

分析针对路径空间上以条件期望为目标的核岭回归,输入为几何粗糙路径的签名或稳健签名,误差以超额风险衡量;数值部分覆盖一个随机微分方程终值学习问题、一个基于签名模型的金融市场价格生成问题,以及时间序列外推回归数据库中的若干数据集。

轻尾与重尾两种情形下超额风险界的阶相同,但重尾情形需要对正则化参数施加更强的下界条件;稳健签名核因有界而无需分布相关的矩假设,其界同样按该阶衰减。数值例子只展示渐近行为与最优惩罚系数的变化,并未给出与理论常数逐项对应的定量验证。