专家知识交给大模型比较,多保真优化在电池设计上把遗憾面积降了61%
核心概要
多保真贝叶斯优化用廉价低保真模型加少量高保真仿真来降低设计成本,但高保真数据稀少时,低保真模型省略的物理机制造成的偏差难以从数值中学出。LLM-Assisted MFBO 让大语言模型只比较两个设计中哪一个需要更大的带符号残差修正,再用成对高斯过程把这些判断变成连续的知识基,其符号和权重由高保真数据校准。在锂离子电池设计问题上,该方法把常规多保真贝叶斯优化的遗憾面积降低了61.2%,且四档知识质量与四个大模型的对照显示性能主要由知识质量决定。
深度剖析
多保真优化多了一条信息来源:专家用自然语言说明低保真模型漏掉了哪些物理,大语言模型据此判断两个设计中哪一个需要更大的带符号残差修正,这条信息与低保真数据一起进入代理模型。 此前的多保真模型,包括 co-Kriging、分层 Kriging 和非线性信息融合,都只从低保真与高保真数值观测中推断两级保真度之间的关系;当低保真模型省略的机制随设计变量变化时,少量高保真观测不足以学出这种偏差。 在锂离子电池设计问题上,该方法20个随机种子的归一化遗憾面积为0.0303,比常规多保真贝叶斯优化的0.0781低61.2%,比仅用高保真数据的0.1237低75.5%,比只用知识基的0.0871低65.2%。
知识基只提供偏差的形状,不提供响应水平;高保真数据决定它的符号和贡献大小,因此专家知识不会被盲目采信。 只用低保真数据时,常规多保真贝叶斯优化的低保真系数从0.72降到0.55,把无法解释的设计相关偏差吸收进了全局尺度;加入知识基后,该系数在整个迭代中保持在约0.76,接近事后由256组低保真—高保真数据算出的全局尺度0.766。 仅用13个有效比较构建的知识基,与事后在256个设计上算出的真实残差偏差之间的 Spearman 秩相关为0.96,在目标值前25%的设计中为0.87。
大语言模型不预测高保真数值,只在主动选出的设计对上回答 A、B 或 TIE,TIE 表示证据不足而弃权;成对高斯过程把这些比较转成连续的知识基。 已有的大模型贝叶斯优化方法问的是目标本身,例如最优点在哪里或哪个结果更好,输出进入代理均值、候选生成、低保真数据或效用函数;这里问的是低保真模型在哪里错得更多。 在电池问题中,大语言模型做出的13个 A/B 判断在整个全局尺度区间 0.55 到 1.0 内都与真实顺序一致,而11个弃权对中有4对在该区间内顺序反转。
性能由知识质量而非模型选择决定:四档知识质量与四个大模型的析因实验显示,知识条件解释了条件间性能方差的92.8%,大模型选择只解释1.9%。 在匿名化的无物理知识条件下,四个大模型对全部96次查询都弃权,知识基消失,方法与常规多保真贝叶斯优化完全一致;在故意反向的误导知识下,平均遗憾面积比常规方法高约20%。 准确知识下,遗憾面积相对常规多保真贝叶斯优化在 GPT-6.1 Sol 上降低61.2%、GPT-6 Astra 上降低55.7%、GPT-6 Sol 上降低37.7%、GPT-5.6 Sol 上降低23.9%,其中前三个条件经 Holm 校正后显著。
启示与展望
验证集中在一个七维锂离子电池设计问题:高保真模型为 DFN、低保真模型为 SPM,目标是在中等与严苛两种工况下最大化体积放电能量密度,初始7次高保真评估后共进行8次序贯评估,20个种子。知识基在贝叶斯优化前用24次查询一次性构建,优化过程中高保真数据不回传给大语言模型。
知识质量只部分正确时,仅靠系数符号无法纠正,误导知识下平均遗憾面积比常规方法高约20%,不过这一退化幅度不到准确知识带来改进的一半,且在16个条件中只有 P4 与 GPT-5.6 Sol 的组合经多重比较校正后仍显著。方差分解基于每个条件单一查询计划得到的条件均值,逐种子计算时知识效应在全部20个种子中更大,但倍数从6.3倍降为3.2倍。预测方差未传播成对高斯过程与系数估计的不确定性。
