诈骗视频检测不再只看风险线索:MechScam 收 6614 条视频,ScamCourt 用控辩辩论压低误报
核心概要
网络诈骗视频与普通推广、教程在奖励和付款线索上高度相似,只做二分类难以说明骗局如何运作。MechScam 汇集 6614 条视频,覆盖六类诈骗机制与六类非诈骗内容,并给出带视频证据的解释、风险要素及其语境,以及用真实证据构造的误导性论证。在此之上,ScamCourt 让受训的控方与辩方各自立论、再互相反驳,由受训法官在核对引文与帧引用后裁决;实验显示它优于更大的多模态大模型和同骨干微调基线,误报更少,对误导性论证也更不敏感。
深度剖析
诈骗视频检测的评测对象从单一的二分类标签,扩展到骗局机制归属和与良性近似内容的区分。 此前的数据集支持多模态诈骗检测,部分还给出基于政策的解释,但跨诈骗内容与良性近似样本的机制级标注有限。 MechScam 共 6614 条视频,其中 3079 条来自 VidScam、3535 条来自 YouTube_Scam,按统一框架重新标注,含 2184 条诈骗视频与 4430 条非诈骗视频。
每条视频的标注把承诺的收益、要求观看者采取的行动和声称的回报来源联系起来,并保留警示、引用、演示等限定语境。 孤立的金钱、品牌或外链提及不足以构成风险要素,风险线索的出现与其解释需要分开判断。 标注由 GPT-5.5 起草、人工逐条核验,并经自动一致性与引用检查、独立人工复核和共识修正;每条视频含标题、描述、语音转写和最多 64 帧均匀采样画面,共 418442 帧。
ScamCourt 把判断拆成控方立论、辩方立论、互相反驳和法官裁决四个环节,控方主张诈骗及对应类别,辩方主张非诈骗及对应良性类别。 多智能体辩论的法官需要处理对同一证据的竞争性解释,而引用真实材料也可能支撑误导性结论。 裁决前逐条核验引用:文本引文须是所标来源的连续片段,帧引用须指向已提供的画面,其余标为未核验;法官把辩论记录当作主张,对照原始视频证据给出标签、类别、内容角色和解释。
辩手与法官分别训练,辩手用共享的角色条件 LoRA 适配器学会为任一方立论,法官则在交叉拟合生成的辩论上学习裁决。 只用教师论证训练的法官,在部署时会遇到受训辩手产生的不同论证分布,用同一批视频上拟合的辩手生成训练辩论还会引入样本内效应。 训练集内按主类别与来源分层做两折交叉拟合,每一折视频的辩论由在互补折上训练的辩手生成,测试时使用的辩手再在完整训练集上训练;法官监督混合教师辩论、交叉拟合辩论,以及占训练视频 25% 的分层无辩论样本。
启示与展望
已展示的范围是 YouTube 来源的 6614 条视频,覆盖六类诈骗机制与六类非诈骗内容,评测围绕二分类、12 类细粒度分类和对误导性论证的抵抗力展开;数据集与代码发布在公开仓库。
材料指出当前多模态大模型难以区分诈骗视频与相似的非诈骗内容,且对以真实证据为基础的误导性论证存在易感性;这些结论来自所构建的基准与辩论设置,材料未给出跨平台或跨语言的验证。
