黑盒大模型后门改看推理图:GCoTD在GPT-4o上把TPR提高3.44个百分点
GCoTD把黑盒大模型的推理过程转成图结构,再用轻量检测器判断回答是否被后门触发,而不依赖权重、梯度或训练数据。此前后门检测多依赖白盒信号、带标签的投毒数据或输出层特征,在闭源API上容易失效。在四种攻击类型、六个模型上,GCoTD在多数设置中取得最高或接近最高的TPR,并在GPT-4o与LLaMA-3-8B上分别比此前最优方法高3.44和3.75个百分点的TPR。
GCoTD把黑盒大模型的推理过程转成图结构,再用轻量检测器判断回答是否被后门触发,而不依赖权重、梯度或训练数据。此前后门检测多依赖白盒信号、带标签的投毒数据或输出层特征,在闭源API上容易失效。在四种攻击类型、六个模型上,GCoTD在多数设置中取得最高或接近最高的TPR,并在GPT-4o与LLaMA-3-8B上分别比此前最优方法高3.44和3.75个百分点的TPR。
作者提出QuSema,一个以量子语义与文档作为源码级语义判据的自主测试智能体,通过“上下文单元准备—语义缺陷检测—库API触发与验证”三阶段流程,判断实现逻辑能否由合法输入产生非法输出;在Qiskit与PennyLane的20个历史静默缺陷基准上,其平均缺陷复现数高于Claude Code与Codex,并在两个库中发现40个经维护者确认的新缺陷,其中30个为静默缺陷。
该工作提出 Fact-Flow 框架,将视觉事实识别与报告生成解耦:先用 LLM 自动从训练报告中抽取并合并临床发现标签体系(结核 7 个标签、眼科 42 个标签),再训练多标签分类器预测发现,最后把预测标签序列化为提示引导 MLLM 生成报告;在结核胸片数据集上 MedGemma + Fact-Flow 取得 RadFact F1 0.3055(对比 MedGemma 单独 0.2266),在眼科数据集上 Qwen2.5-VL + Fact-Flow 在多数 NLG 指标上最优。
已读完全部报道