跳到主要内容
检索

The Hong Kong University of Science and Technology (Guangzhou)

27 篇关联报道

订阅更新
  1. arXiv

    离线RLVR不再逐token全监督:GIST按对错分层选数据,同池对比胜过七个选择器

    离线强化学习可验证奖励训练通常对固定采样池中每条回答的每个token都施加监督,但回答与token的信息量并不相同。GIST把策略与KL正则化RLVR的Gibbs最优目标之间的双向KL失配拆成前向与反向两项,据此在回答层用采样温度配对正确与错误样本,在token层只监督正确回答的低概率token和错误回答的高概率token。在Qwen3-0.6B/GSM8K的同候选池对照中,它监督的token比训练全部候选少66.6%,严格准确率45.79、灵活准确率49.73,均高于七个选择基线。

  2. arXiv

    信号灯不再先做结构化感知:Traffic-VL 直接看多路摄像头,三周十个路口平均排队缩短10.4%

    交通信号控制此前多依赖专用感知流程产出的结构化车流状态,或把仿真图像先转成中间表示再决策。Traffic-VL 用80亿参数视觉语言模型把同步多视角图像与自然语言相位描述直接映射为相位选择,并配套 SynTra-V 把物理仿真转成经语义审计的逼真监控图像用于训练。在五个闭环基准上它与使用结构化状态的 Traffic-R1 相当,在真实监控图像上相位选择准确率为82.1%,三周十个路口实地运行相对人工历史操作把平均排队长度降低10.4%。

  3. arXiv

    掩码扩散模型在预算内提前锁定答案:HiLo-RD 用大窗口轨迹自蒸馏,GSM8K 准确率升 9.4 个百分点

    掩码扩散语言模型在小响应窗口下会在推理尚未完成时先固定答案片段,这一提前承诺随后成为后续预测的上下文。HiLo-RD 让同一模型的大窗口轨迹充当冻结教师,把其隐藏表示对齐到裁剪后的小窗口视图,在已提交位置上做表示蒸馏。在相同小推理预算下,GSM8K 准确率从 68.84% 升到 78.24%,平均可读长度从 362.8 降到 271.3 个 token,增益还延伸到未做代码域训练的代码生成。

  4. bioRxiv

    质谱基础模型π-SPECFormer从2.91亿张谱图学表征,在肺腺癌中找出6个数据库未收录的突变肽

    常规数据库搜索只能为约20%至31%的谱图给出高置信肽段归属,其余谱图长期被搁置。π-SPECFormer在2.91亿张串联质谱上分两阶段预训练,先自监督学习碎片模式,再用肽段—谱图匹配分组细化表征。该模型在从头测序、谱图聚类和修饰检测三类任务上均优于对应基线,并在103例肺腺癌样本中给出9个高置信突变肽,其中6个不在所查公共数据库中。

  5. arXiv

    SLA把空间对齐搬进持续预训练:八种真实部署条件平均成功率83.8%,比基线高24.0个百分点

    SLA把视觉-语言-动作模型的空间对齐从只在任务后训练阶段做,扩展到持续预训练阶段,并在下游后训练中保留。它从预训练策略初始化,联合优化动作预测与中间视觉嵌入对冻结三维感知模型空间表示的余弦对齐,训练时用特征相关门聚合多层视觉嵌入、用概率状态丢弃减少对示范轨迹的依赖;在RoboTwin 2.0的Clean2Random设置上达到72.3%,在八种真实部署条件上平均成功率83.8%,比基线高24.0个百分点。

  6. arXiv

    长上下文RL训练不再等自回归:稀疏自草稿加全注意力验证,吞吐提升1.39倍

    长上下文RLVR的rollout生成改用稀疏注意力起草、全注意力验证,在Qwen3-1.7B与Qwen3-8B上把端到端训练吞吐提高到自回归的1.39倍和1.35倍,同时保持任务表现相当。

  7. arXiv

    智能体强化学习不再只靠自己摸索:失败轨迹在采样时被就地纠正,导航通过率从35%升到57%

    阿里团队提出采样时干预(RTI),在整组轨迹全部失败时用奖励侧评分标准就地纠正关键错误步骤,让智能体强化学习学到原本探索不到的成功轨迹,导航基准Pass@1从GRPO的35.33升到57.33。

  8. bioRxiv

    膜蛋白界面不再依赖复合物结构:只给序列,跨家族语言模型集成把界面残基排到0.643

    膜蛋白相互作用界面的预测此前受限于实验复合物稀少,且跨疏水跨膜区的序列比对不可靠。CHORUS把ESM-2、ESM-C与ProtT5三个蛋白语言模型家族、不同层深与三种下游网络组合成六模型集成,仅凭单条序列输出逐残基界面概率,在4,655个同源隔离测试链上取得0.643的链宏平均精度,高于覆盖完整的结构方法ScanNet-MSA的0.613。该框架还发布了覆盖80,619条已审阅跨膜蛋白、4,918个物种的预计算界面图谱。

  9. arXiv

    晶粒长大模拟不再解相场方程:VN定律管面积、图神经网络管重构,五例基准平均快137倍

    二维晶粒长大模拟把面积演化交给von Neumann–Mullins定律、把组织重构交给图神经网络,在五个初始组织的基准上达到相同粗化程度平均用时38.43秒,相场法为5247.01秒。

  10. arXiv

    UniData 用九模态流水线把简单需求变成多轮多模态指令,在合理性、清晰度、细节与相关性四项指标上超过 Self-Instruct 与 VIGC

    作者提出 UniData,一个通用多模态指令生成流水线:先把用户关键词扩展为多样事件,再用以 LLaMA-3 为骨干、结合图像与音乐分词器的多模态指令生成器逐轮生成指令,并在推理时按轮次相关性纠正重复与无关内容;配套构建含九种模态、2 万条、平均 17.5 轮的 UniDataset,实验显示其数据质量在合理性、清晰度、细节、相关性四项 GPT 引导指标上均优于 Self-Instruct 与 VIGC,且生成数据微调后能提升其他多模态模型的理解与生成表现。