跳到主要内容
检索

University of Illinois Chicago

10 篇关联报道

订阅更新
  1. arXiv

    智能体记忆不再只回望过去:Pro-Memory把未来意图与触发时机分开管理

    面向大语言模型智能体的记忆系统大多只保存和检索过去的信息,而主动型智能体还需要记住尚未实现的未来意图,并在合适时机自行兑现。Pro-Memory把“保留未来意图”和“决定何时以及如何兑现”拆成两步:让待办目标与其支撑证据绑定,用新观察对照原始目标和激活条件,再与智能体正在进行的动作协调。在两个覆盖延迟意图任务和开放式主动协助的基准上,多种大语言模型骨干上的主动任务表现相对代表性记忆方法有一致提升,同时减少了不必要的干预。

  2. arXiv

    指令微调数据只取0.5%:QSGS用图割去冗余,Mistral-7B追平全量数据

    面向指令微调的目标数据选择,QSGS把候选样本的梯度相似度组织成一张图,用子模图割同时拉近目标任务、压低子集内部冗余,再用梯度引导合成补上选不出的方向。在MMLU、BBH、TydiQA三个基准和Llama-2、Llama-3、Mistral三个模型上,0.5%预算(27万条中取1350条)的QSGS在Mistral-7B上追平或超过全量数据表现,并在所有基准上优于最强基线。

  3. arXiv

    立场检测的提示词不再整段重写:拆成六个模块逐个改,错误按标签分流后四个骨干上平均分更高

    立场检测的提示词优化改成按功能拆成六个模块逐个改写,错误反馈按金标标签分流,在 SemEval-2016 上五个开源权重模型里有四个的平均 Macro-F1 高于把错误混在一起的做法。

  4. arXiv

    SWR 用 500 个科学软件工作流自监督生成训练环境,使 Qwen3.8-27B 在 Terminal-Bench 2 上从 47.94% 提升到 53.56%

    作者提出 software-in-the-loop reconstruction(SWR)自监督框架,从已有软件工作流中自动获取参考输出与验证目标,在 500 个工作流、46 个软件家族、六个领域上实例化,用 Qwen3.8-Max 三次尝试解出 838 个任务并得到 1,422 条已验证轨迹,过采样为 3,000 条重建训练样本,监督微调使 Qwen3.8-27B 在 Terminal-Bench 2 上的平均表现从 47.94% 提升到 53.56%,并在四项报告评测上取得四个等 token 语料对照中的最高均值。

  5. arXiv

    Fisher引导的子模数据选择让1B精选token在医学持续预训练中同时优于10B回放token的适配与抗遗忘表现

    该工作发现基于损失的数据选择会使持续预训练后的Fisher对角在高Fisher坐标上系统性下降、而低Fisher坐标基本不变,据此提出将候选样本梯度分解为锚定分量与前沿分量、并用对数行列式子模目标在单遍流式流程中优化的Fisher感知选择器,在TinyLlama-1.1B与Llama-3.1-8B的医学数据持续预训练中提升目标域质量并约束遗忘,且1B精选token在适配与遗忘两项上均优于10B token的回放策略,呈现约10倍token效率优势。

  6. arXiv

    GRAFT 用持续多教师蒸馏让单一骨干依次吸收五个视觉基础模型能力,新增能力只需一次蒸馏

    GRAFT 提出一种持续多教师知识蒸馏框架,把已蒸馏模型当作教师以保留旧能力,同时让当前学生联合学习旧模型与新到教师,并引入 Teacher Specific Readout Tokens 与 Geometry Agnostic Relational Loss 来调和异构教师的表示几何,从而得到一个可持续扩展的单一骨干,统一图像理解、2D 稠密预测、3D 人体姿态估计、3D 视觉与视觉-语言五个领域,且每获得一项新能力只需一次蒸馏而非对全部教师重新联合蒸馏。

  7. arXiv

    Latent-MOPD 让学生模型同时吸收多位专家的预测与隐藏状态,在数学、代码与逻辑九个基准上全面超过单通道基线

    该工作提出 Latent-MOPD,一种面向大语言模型的多教师在线策略蒸馏方法,首次在表示层面整合多位专家:它按师生关系选择后层隐藏状态目标、用共享投影对齐不同隐藏宽度、按领域分组更新,并让每个教师的监督从隐藏状态逐渐转向词元预测;在同族设置下,它在数学、代码与逻辑的九个基准上均优于仅词元、仅表示与均匀平均基线,且在同参数量下于多数基准上超过各基准最佳教师;在跨族大教师设置下,它在所有基准上优于两种单通道基线。

  8. 发表出处待核验

    45人改良德尔菲共识:GLP-1受体激动剂用药前应筛查进食障碍,活动性厌食症与贪食症患者一般应避免使用

    该研究采用三轮改良德尔菲法,由45名糖尿病、肥胖和/或进食障碍领域的临床医生与研究者以及有亲身经历者组成的小组,就GLP-1受体激动剂在进食障碍情境下的使用达成平均91.7%的共识,提出用药前筛查、按风险分层监测、标准化教育材料、合并循证心理治疗等临床建议,并明确在活动性进食障碍(尤其厌食症、非典型厌食症及伴明显饮食限制和/或显著体重抑制的贪食症)中一般应避免使用GLP-1受体激动剂,同时列出流行病学、监管与暴食障碍临床试验的研究优先事项。

  9. arXiv

    TraceDance 从 252,557 条真实部署轨迹自动生成 107 个行为基准,九个前沿模型平均通过率仅 26.7%

    TraceDance 是一个从真实部署轨迹中为用户指定的不良行为自动构建定向基准的智能体系统,它用 Anchor-and-Confirm(可编程检索加 Flash 大模型候选级确认)和 Anchor Synthesis Loop 生成行为规范,用决策点续写方式让被测模型在记录下来的决策点生成下一轮回复并由行为专属评分表打分;实验基于 Claude Code 与 OpenClaw 的 252,557 条会话,产出 107 个基准、4,125 个实例,满足 95.3% 的构建请求,两名标注者在 84% 的抽样实例中确认了目标行为,九个前沿模型平均通过率仅 26.7%。

  10. arXiv

    Half-Moon Cookie 让发送方一次性完成私有近似黑名单检查,接收方以低至 0.19 秒的隐式检查确认结果并抵御 TOCTOU 攻击

    该工作提出 Half-Moon Cookie 三方框架:发送方客户端对服务器持有的专有黑名单做隐私保护的近似(度量空间内)检查,通过后服务器在允许列表中存入一个隐藏且绑定的令牌,接收方随后可用更快的隐式检查确认该条目仍未被撤销,从而在不泄露客户端输入与黑名单的前提下缓解 TOCTOU 攻击;作者给出基于汉明距离的实例化并应用于相似性恶意软件检测,实验显示可复用混淆电路使嵌入阶段通信量下降两个数量级以上,隐式检查在 100 kB 输入上仅需 7.2e-3 MB 通信与 0.19 秒响应时间。

已读完全部报道