跳到主要内容
检索

German Research Centre for Artificial Intelligence

9 篇关联报道

订阅更新
  1. 扩散语言模型学会数字符:不微调也能把摘要卡在目标长度,误差降到3.1字符以内

    面向标题、预览等必须卡准字符数的摘要场景,Delta 在掩码扩散语言模型的去噪循环里估计当前输出的期望字符长度,并动态增删掩码位置把生成引向目标长度。它不需要微调,直接用于现成的 LLaDA 与 Dream。在 XSum、CNN/DailyMail、arXiv 三个摘要基准上,字符长度误差比各基线低一个数量级,同时自动与人工评价下的摘要质量保持可比。

  2. bioRxiv

    单细胞扰动预测不再只靠预训练:GFM把知识图谱接进流匹配,训练最多快30倍

    在多个大规模Perturb-seq数据集上,一种名为Graph-guided Flow Matching(GFM)的生成框架把基因本体、蛋白互作和扰动相似性三类知识图谱与潜空间流匹配结合,用于预测未见过扰动后的单细胞转录组。它在单基因扰动预测上超过了线性基线和CellFlow、GEARS、scGPT等深度学习模型,训练速度最多快30倍,并在训练数据减少时保持优势;在双基因扰动中,当两个基因都未在训练中出现时表现更好。

  3. medRxiv

    心理治疗也能做“硅内实验”:高共情提示让模拟会谈的动机式访谈完整性全面升高

    心理治疗研究长期受制于试验成本高、临床特征难以随机操控。一项预注册概念验证研究用本地部署的 Llama-3.3-70B-Instruct 搭建治疗师与来访者两类智能体,自动生成 512 场动机式访谈会谈,仅通过治疗师提示词操控共情、肯定与联盟建立等共同治疗因素的高低。在纳入分析的 480 场会谈中,高共同因素条件下的动机式访谈治疗完整性四项全局评分均高于低条件,调整后均值差为 0.54 至 0.95 分。

  4. arXiv

    视觉头发现分数换了读注意力的位置:必要性跟着查询跨度走,默认强度的可操控性随机头也能达到

    视觉语言模型里用来定位“看图”注意力头的发现分数,其内部选择会明显改变选出的头。研究在Qwen3-VL-8B-Instruct上完整交叉查询类型、发现语料与读取注意力的token位置,并用可操控性与必要性两种干预检验全部12组头集。结果只有必要性随注意力来源变化:查询跨度头集比末token头集更必要,两个指代加查询跨度头集高出250组同层随机头集17–19个标准差;而在默认强度下,没有任何发现头集的可操控性超过同层随机头集。

  5. CleanSurvival 用强化学习为生存分析自动挑选预处理流程,在真实数据基准上相对简单基线提升预测表现

    该工作提出 CleanSurvival,一个基于强化学习(Q-learning)的自动化数据预处理框架,专门面向删失数据的时间到事件(生存分析)模型:它从数据插补、异常值检测与特征提取技术的组合中,为 Cox、随机森林、神经网络或用户自定的时间到事件模型挑选最优预处理流程;在真实数据集基准上,这种基于 Q-learning 的预处理相对简单基线提升了预测表现,运行时间行为依条件而定,并在覆盖最充分的基准单元中最清晰可解释;模拟研究进一步显示其在不同类型与程度的缺失和噪声下均有效。

  6. arXiv

    EAGER 用可验证奖励强化学习提升生成式事件抽取,在七个基准上超过提示、监督微调与既有强化学习基线

    该工作提出 EAGER,一个面向生成式事件抽取的强化学习框架,将细粒度可验证奖励与 Schema-Contrastive Advantage Estimation 结合,以缓解稀疏二值奖励下的优势坍缩;其奖励设计显式覆盖结构有效性、抽取准确率、接地性、覆盖率、过度生成与跨度精确度,在七个基准数据集上持续优于提示、监督微调与既有强化学习基线,并相对最强先前方法取得显著提升。

  7. 德语临床表达到 SNOMED CT 的医学概念归一化:领域嵌入检索加 LLM 重排优于纯 LLM 方案

    该研究针对德语临床短表达到 SNOMED CT 的医学概念归一化任务,比较了直接使用 GPT-5.4 的纯大语言模型方案与结合 medBERT.de 双编码器嵌入检索和 RAG 式 LLM 重排的混合方案,结果显示纯 LLM 基线 Recall@1 为 0.235、Recall@3 为 0.297、Recall@5 为 0.303,而嵌入检索方案达到 Recall@1 0.681、Recall@3 0.783、Recall@5 0.812,加入 RAG 重排后 Recall@1 进一步提升至 0.771,Recall@3 和 Recall@5 分别为 0.809 和 0.812。

  8. 大语言模型在上下文中的分子性质预测:一项关于记忆与知识冲突的盲化研究

    该研究在三个 MoleculeNet 数据集(Delaney 溶解度、亲脂性、QM7 原子化能)上,用逐步减少可用信息的盲化流程,配合 0、60、1000 样本的上下文示例数量,评估 GPT-4.1、GPT-5、Gemini 2.5 三个家族共九个 LLM 变体,以判断其分子性质预测是真正的上下文回归还是对记忆目标值的逐字检索,并加入记忆实验的正负对照、多示例实验的结构参照基线以及自助法置信区间;结果显示在这些既有基准上没有逐字检索的证据,而盲化会暴露出预训练知识与上下文信息之间的冲突。

  9. arXiv

    Just Leaf It:用层级类别剪枝加速扩散分类器

    该工作提出层级扩散分类器(HDC),利用数据集标签的父子层级结构,在剪枝阶段逐层用较少的蒙特卡洛采样估计ε-预测误差并只保留误差最低的若干节点,再对保留下来的叶节点执行经典扩散分类,从而在ImageNet-1K上以Stable Diffusion 2.0实现约60%的推理加速(1600秒降至650秒)或在几乎不增加时间的情况下把逐类准确率从64.90%提升到65.16%。

已读完全部报道