跳到主要内容
检索

Harbin Institute of Technology

20 篇关联报道

订阅更新
  1. arXiv

    长序列蒸馏不再让教师全程接管:ATI-OPD只改写最早分歧段,学生独立答题平均准确率高于标准在线蒸馏

    在线蒸馏让学生用自己的回答接受教师逐词指导,但回答变长后学生的前缀会偏离教师自己的推理,后续反馈随之失真,训练出现梯度尖峰和超长回答。ATI-OPD在最早出现高分歧的片段处让教师插入一小段改写,再交还学生续写,并把持续分歧的尾部排除在蒸馏损失之外。在五个数学推理基准、两对1.5B师生模型上,学生脱离教师独立作答的平均准确率高于标准在线蒸馏。

  2. bioRxiv

    组织切片里的蛋白不必都靠抗体测:MorphoProt用RNA引导多尺度H&E,在三组织留出切片上超过SPRINT

    空间转录组测了RNA却常常没有配套蛋白测量,而蛋白丰度并不能由RNA完全反映。MorphoProt把每个位点的RNA表达当作查询,对五个尺度的H&E视野做交叉注意力,再经物理邻域与转录组邻域两路门控聚合,联合解码整套蛋白面板。在人扁桃体、小鼠脾和人肝的留出切片上,其平均逐蛋白Spearman相关分别为0.652、0.604和0.372,三种组织均高于仅RNA、图方法和HIPI、SPRINT等对照。

  3. arXiv

    自蒸馏的教师也要学会教:TeachBack 双向偏好让 Qwen3 数学均分最高涨 4.3 分

    在线自蒸馏让同一个模型在只给题目时当学生、在附上参考解答时当教师,但参考解答会让教师给出又短又依赖答案的推理,学生学不到探索与自我纠错。TeachBack 把参考推理的末尾一段当作可选工作笔记注入教师提示,并同时优化两个方向的偏好:教师轨迹在只给题目的条件下应优于学生轨迹,学生轨迹在带特权信息的条件下反过来塑造教师。在 Qwen3-1.7B、4B、8B 上,数学平均分相对基座分别提高 4.3、2.2、2.5 分,骑士与无赖逻辑题平均分分别提高 6.1、3.9、7.5 分。

  4. researchsquare.com

    台风强度预报不再只看云图:TCFNet用气压趋势引导视觉编码,24小时气压误差降到9.52 hPa

    热带气旋强度预报长期依赖最佳路径数据或静止卫星云图,而相似的云型可能对应增强、维持、减弱三种不同演变,通用融合策略难以区分。TCFNet用气压梯度定义强度趋势,据此挑选对比学习的正样本对,让视觉编码器学到与强度变化一致的云图表示,再用神经常微分方程把状态连续外推到任意预报时刻。在西北太平洋与南太平洋两个盆地的24小时预报中,其气压均方根误差分别为9.52 hPa和7.00 hPa,快速增强识别的临界成功指数为45.26%。

  5. researchsquare.com

    乳腺癌年龄相关基因从80个缩到4个:跨队列复现加受体稳健,才留下IL7R、SQSTM1、EGR1、IGF1

    乳腺癌中与诊断年龄相关的基因表达信号,经受体与分期校正、跨平台复现和雌激素受体分层后,从80个缩减为4个:IL7R、SQSTM1、EGR1、IGF1。同一套分子流程又被写成受约束的符号控制器,在760个预设场景中按参考策略完成、阻断或安全终止,而不只是追求跑完。结果属于研究优先级排序,不构成临床生物标志物或治疗建议。

  6. arXiv

    混合变量实验不再只靠结构描述符:LLM排序先验加结构平滑,六项化学与材料任务在固定预算下更快逼近最优

    TagBO把大语言模型给出的候选排序当作任务相关的粗粒度先验,与结构描述符的局部平滑一起构成相似性图,在化学与材料配方等六项混合变量优化任务上,固定评估预算内更快找到高质量候选。

  7. arXiv

    导航智能体不再重复已走过的指令:把执行进度和决策绑在一起,R2R成功率提高3个百分点

    视觉语言导航智能体此前把整条指令与候选路径做全局粗匹配,已经执行过的内容会继续干扰后续决策。VLN-AIEP把执行进度估计与导航决策耦合:先用已走轨迹抑制已执行指令的嵌入,再让候选位置只与待执行内容匹配,因此进度估计可以直接从导航决策标签学习,不需要显式的进度标注。在R2R、RxR、CVDN和R2R-CE四个数据集上,该方法在多个指标上取得有竞争力的结果,例如R2R val-unseen成功率77%,比PRET高3个百分点。

  8. arXiv

    神经网络调参不再整脚本重写:三个LLM角色只改指定模块,MNIST准确率从80%升到93%

    多智能体大语言模型框架把神经网络调参限定在指定功能模块上,网络整体结构保持不变。此前这类关键组件多由人工选择,且已有智能体系统通常优化整个机器学习脚本或从文本描述搭建网络。框架由分析师、编码员和记录员三个角色组成,配合沙箱执行环境与实验日志,在五个任务上均优于基线:MNIST分类准确率提高13个百分点,Digits提高6个百分点,广义非线性薛定谔方程单孤子问题的相对误差降低约2491倍,守恒误差在选定运行中降低约325倍,Kuramoto–Sivashinsky问题的质量漂移降低14倍。

  9. arXiv

    MoonGS 用冻结视觉基础模型与语义排序损失,从双图前馈重建月面,LuSNAR 上 PSNR 达 23.80 dB

    MoonGS 是一个面向月面场景的前馈 3D 高斯泼溅框架:仅输入两张图像,单次前向即预测像素对齐的高斯原语,无需逐场景优化;它用冻结的视觉基础模型(DUSt3R,亦可换用 VGGT)提取鲁棒深度特征,融合语义先验并以语义排序损失正则弱纹理背景深度,再用熵引导的启发式重采样补充稀疏观测。在 LuSNAR 与自建弱纹理 MoonBlender 数据集上,其 PSNR、SSIM、LPIPS 均优于前馈 NeRF/3DGS 基线,推理保持亚秒级。

  10. arXiv

    D-OPCD 把智能体提示经验蒸馏进扩散模型权重,直接生成均分从 60.52 升至 65.09

    作者提出扩散在线策略上下文蒸馏(D-OPCD),把智能体框架生成的提示当作教师独享的特权上下文,在学生的去噪轨迹上监督只接收原始查询的学生模型,从而把提示层面的框架收益写入扩散模型权重;配合自动技能演化器(ASE),四个基准上的直接生成均分从 60.52 提升到 65.09,且更新后的生成器在无技能框架下平均略高于原技能框架智能体。