跳到主要内容
检索

Pennsylvania State University

15 篇关联报道

订阅更新
  1. researchsquare.com

    编码智能体压缩上下文不必改写历史:ObsDrop只释放过期KV,16个并发智能体下吞吐最高5.37倍

    编码智能体每轮只往历史末尾追加内容,不压缩时前缀缓存复用率可达98%至99%,但文本级上下文压缩一旦改写早先的token,后面的KV就要全部重算。ObsDrop把压缩从提示词移到KV缓存:逻辑token前缀保持不变,只释放过期工具观测占用的KV并从注意力中排除,已在SGLang与Sparse-vLLM中实现。在16个并发智能体下,相对不压缩,FlashInfer后端吞吐提升2.45至2.85倍,Triton后端峰值5.37倍,任务质量接近不压缩。

  2. arXiv

    软件工程智能体的奖励不再只有通过或失败:让策略自己比较同一结果下的调试轨迹

    软件工程智能体的强化学习奖励不再只分通过和失败:让当前策略自己比较同一任务、同一验证结果下的调试轨迹,把偏好变成有界辅助奖励,在SWE-bench Verified上把Qwen3-14B的平均准确率从32.1%提到34.7%。

  3. arXiv

    决策模型被改一个字符就改选:30个文本模型、17个视觉模型接受同一批攻击候选

    DecisionRobust把JEV式决策模型放到文本与图像扰动、提示注入下评测,30个文本模型和17个视觉模型接受同一批候选,未参与候选筛选的留出模型同样出错,而标签一致性检查把表观攻击成功率大幅压低。

  4. arXiv

    语言模型学会给语言模型开药方:只跑200次真实训练,27B模型在留出任务上压过GPT-6-sol

    语言模型改进语言模型时,判断哪条改动值得试一直靠昂贵训练实验来验证。LM2LM把冻结的大模型当作“研究世界模型”,用真实实验记录在上下文中预测改动收益,作为强化学习奖励,并定期执行当前策略高分提案、把实测结果补回记录。在八个自回归与扩散语言模型开发环境上,Qwen3.8-27B经此训练后在留出任务上超过GPT-6-sol,即使后者上下文中带有300条真实实验记录,且数据生成成本低约33%。

  5. arXiv

    路由不再只看答案好不好:安全查询单独打分,同一批模型与预算下把安全差距补回近33点

    SCRouter把大模型路由的质量拆成普通查询的效用与安全敏感查询的安全两项,按查询分别加权,在自建基准上把随机选择到逐查询最优之间的差距补回60.9%,比此前最好的R2-Router高12.9个百分点。

  6. arXiv

    跨区LLM推理调度不再只看电网碳强度:把批处理与排队算进去,碳排最多降六成,SLO违规约3%

    跨区LLM推理调度把引擎的批处理与排队状态纳入决策后,在MLPerf的每token时延目标下,相对轮询策略最多减少60%的碳排放,平均SLO违规约3%。

  7. arXiv

    工具描述被当成安全契约:273个MCP服务器里,253个漏洞不靠崩溃也能触发

    大模型智能体调用外部工具时,编排层只保证调用格式合法,并不保证参数安全。ToFu把工具元数据里对参数含义的描述转成可执行的安全检查,再据此生成模糊测试输入和判定规则,在273个可运行的MCP服务器、3405个工具上确认了118个服务器、343个工具中的253个漏洞,其中多数调用正常返回。

  8. arXiv

    PAPER2LLM++ 让模型从论文流中持续自我进化,在顺序出现的失败上逐步吸收新发现并保留早期收益

    该工作提出 PAPER2LLM++ 框架,把不断增长的论文文献当作模型改进的证据与监督来源:对每篇新论文抽取有证据支撑的发现,检验所报告的局限在当前模型中是否仍然存在,必要时把发现转化为候选学习信号,并通过 try-evaluate-commit 流程仅在更新能改善目标行为且不显著遗忘先前改进、不降低通用能力时才将其整合;在一串顺序出现的研究所发现的 LLM 失败上,模型能够逐步纳入新发现并保留早期收益。

  9. arXiv

    LinkedIn与多校团队发现:7B到72B学生模型用更小的冻结模型生成拒答,代码与数学表现反而更好且算力更省

    该研究在SODA式两阶段偏好蒸馏流程中固定提示、优选回答、SeqKD初始化、DPO目标与训练预算,只改变拒答来源,发现7B至72B的Qwen2.5学生在代码生成与数学推理上,用参数更少、推理算力更低的冻结Base模型生成拒答,比用学生自身拒答训练出的学生更强,并进一步用线性化特征模型给出有限时域效用界,提出混合来源、提示重分配与词元置换、按参考策略似然重选三类干预。

  10. arXiv

    ATLAS 在 LeWM 中同时保留关系几何与校准潜变量分布,在 PushT、TwoRoom 与 OGBench-Cube 上提升目标达成成功率,TwoRoom 高新颖度回合增益最大

    作者提出 ATLAS 训练目标,将编码器均值池化 patch 特征的归一化成对结构迁移到规划潜变量,并用基于一维 Wasserstein-2 传输的 WEMReg 校准其边缘分布,在 LeWM 上实例化后在 PushT、TwoRoom 与 OGBench-Cube 的低与高新颖度子集上均提升平均目标达成成功率,其中 TwoRoom 高新颖度回合增益最大,同时诊断显示规划潜变量中与新颖度相关的结构更强、边缘校准更好、多步预测误差更低。