跳到主要内容
检索

University of Illinois Urbana-Champaign

49 篇关联报道

订阅更新
  1. Scientific Reports

    手机与云端分摊生成式推理:MAGS用报价代替抢单,p99延迟降17.1%

    生成式查询的代价要等答案生成完才知道,设备只能提前占资源,多台设备还会同时涌向同一台服务器。MAGS让每台设备先用本地小模型的四层探针预测token数与生成熵,再按服务器广播的拥塞价格竞标云端容量,并在同一次出价里选定每token的隐私参数。在相同观测与调参预算下,十个随机种子上它相对反应式PPO基线把p99延迟降低17.1%、每token能耗降低13.6%、吞吐提高20.7%;八设备两服务器实测把卸载决策的跨设备相关性从0.41降到0.08。

  2. arXiv

    智能体要自己认出偏微分方程:RSI-PDEbench 用 1001 个案例考它,四模型平均通过率最高提升 181.9%

    从采样解数据反推偏微分方程,需要专家完成方程发现、系数估计和数值求解器配置。RSI-PDEbench 把这一流程做成 1001 个案例、42 个方程模板的基准,分无噪声、50% 高斯噪声和未见模板加偏移系数三种设定;配套的 RSI-PDE 智能体用残差筛出候选方程、用相对反馈修正系数与求解器,并以验证门保留改进。四个前沿模型上,其平均通过率相对单次运行基线提升 106.5%–181.9%,相对原生智能体框架提升 3.0%–19.6%。

  3. arXiv

    27B模型本地读完整份脑电图:ERIA只优化提示策略,受保护测试报告评分从0.5052升到0.6024

    临床脑电图判读要覆盖整段记录的技术质量、背景与睡眠状态、发作间期和发作期异常,再写成报告,单靠事件检测不够。ERIA让一个本地部署的27B语言模型控制器调用确定性的信号分析、学习型临床模型和本地知识检索工具,控制器权重、工具与安全约束都固定,只用GEPA依据专家报告反馈改写自然语言分析策略。在200份配对临床脑电图中,受保护测试集的医师对齐报告评分从0.5052升到0.6024,且该策略在CerebraGloss-Bench与BrainBench基础分析上仍有表现。

  4. arXiv

    语言模型的不良行为压下去还会反弹:PEARL把训练起点挪到半错轨迹上,重训后仍压得住

    语言模型在后续微调中可能重新出现已被压制的错误行为,而常规后处理能否压住、能压多久此前缺少统一比较。PEARL在GRPO的在线采样之外,加入从已缓存的不良轨迹中间状态续写的对抗前缀,让策略练习从半错状态恢复。在Qwen3-4B与GPT-OSS-20B两类模型、窄触发与宽触发两类实验模型上,PEARL即时压制较强并保住任务准确率,在宽触发设定和GPT-OSS-20B上收益最明显;窄触发加Qwen3-4B时,大量定向重训下SFT更耐久。

  5. arXiv

    智能体学会在隐空间里思考:HybridAgent 在 11 项基准上平均提升 10.4%,token 用量最多降 54.7%

    HybridAgent 让同一个智能体在生成过程中于连续隐空间推理与文本交互之间来回切换,从而在保留工具调用能力的同时把部分思考从逐词解码中移出。此前文本智能体每一步都要写成 token,而隐空间推理方法又缺少原生工具接口、难以检查。该智能体在数学、科学、医学、搜索与智能体推理共 11 项基准、4B 至 14B 三个规模上,相对文本与隐空间两类前沿智能体平均提升 10.4%,并报告 35.5%–54.7% 的 token 减少与 1.8–2.6 倍推理加速。

  6. arXiv

    评委池里强弱混杂也能聚合:AGORA用题目反应理论学信任权重,样本缩到几百条仍占优

    大模型评审常被用来替代昂贵的人工评估,把多个评审聚合起来是抵消单个评审偏差的常规做法,但评审池里强弱混杂,而用于验证的人工标注集往往只有几百条甚至更少。AGORA把每个条目放在一条潜在质量尺度上,用敏感度参数和有序评分阈值描述每个评审,从而在全部条目上联合学习评审可靠性,且不需要人工标签。在三个基准上,AGORA在大型评估集上与Dawid-Skene持平或更好,且随着集合缩小到几百条,其优势扩大。

  7. arXiv

    智能体记忆不再只回望过去:Pro-Memory把未来意图与触发时机分开管理

    面向大语言模型智能体的记忆系统大多只保存和检索过去的信息,而主动型智能体还需要记住尚未实现的未来意图,并在合适时机自行兑现。Pro-Memory把“保留未来意图”和“决定何时以及如何兑现”拆成两步:让待办目标与其支撑证据绑定,用新观察对照原始目标和激活条件,再与智能体正在进行的动作协调。在两个覆盖延迟意图任务和开放式主动协助的基准上,多种大语言模型骨干上的主动任务表现相对代表性记忆方法有一致提升,同时减少了不必要的干预。

  8. Nature Communications

    搜索智能体不再只奖励最终答案:过程监督让检索召回更高,跨域与跨模型都更稳

    面向多跳信息检索的搜索智能体,训练信号从只看最终答案正确与否,改为对每一步搜索动作打分。RAG-Gym把搜索建模为马尔可夫决策过程,并比较架构、参数优化与动作评估三个维度,选出推理反思架构、偏好优化与评论家引导推理的组合,构成Re2Search++。在HotpotQA上训练后,它在未见过的Bamboogle上优于结果监督基线,检索召回更高且搜索步数相当或更少;在Llama-3.1-8B上训练的评论家还能提升GPT-4o-mini的MedQA准确率。

  9. arXiv

    隐私向量检索不再随库规模线性变慢:HNSecW把在线搜索压到对数时间,十亿级数据上仍保住召回

    在查询与数据库双方都需保密的对称隐私场景下,HNSecW把基于HNSW图索引的近似最近邻搜索改造成可在安全多方计算中执行的全数据无关流程,使单次查询的在线通信与本地计算达到对数复杂度。此前同类协议多采用聚类式流程,在线通信随数据库规模线性增长。在百万到十亿级基准上,HNSecW保持与明文HNSW相当的召回,并在广域网上相对2PC PANTHER取得最高数量级的端到端加速。

  10. aclanthology.org

    失败的证明不再被丢弃:7B模型把Isabelle证明成功率推到73.8%

    HybridProver把整段证明生成与逐步策略生成接在同一条流水线上:整段模型先给出候选证明,未通过Isabelle检查的候选被抽成保留高层结构的证明骨架,再由策略模型与Sledgehammer逐个子目标补全。在Isabelle版miniF2F的244道测试题上,该流程取得73.8%的成功率,高于此前Isabelle系统的最好成绩61.9%。两个7B规模模型经监督微调与以Isabelle验证为奖励的强化学习训练,说明轻量模型也能生成Isabelle/HOL证明。