跳到主要内容
检索

The University of Texas at Austin

23 篇关联报道

订阅更新
  1. arXiv

    AdamW的收敛性被拆开看:不动点相同,稳定性却要看曲率、权重衰减与动量

    AdamW 的固定点恰好是一个带约束与正则项的隐式目标的驻点,但这些驻点未必在 AdamW 自身动力学下稳定。分析在连续时间极限下给出一维精确稳定性条件与高维充分条件,并构造出即使强凸目标也可能失稳、常见动量设置下轨迹持续振荡而不收敛的例子。把权重衰减按梯度更新强度重新缩放得到的 AdamMe 保留同一组固定点,并具备保证有界轨迹收敛的 Lyapunov 函数。

  2. bioRxiv

    长上下文调控模型跨物种失效:20 kb 上下文在鱼类距离反成负担,1 kb 局部序列仍可迁移

    FunFormer 把 20 kb 序列压成固定数量 token 做二分类调控活性预测,并配一个架构与参数量完全相同、只读中心 1 kb 的对照,在六种脊椎动物间互相迁移。种内 20 kb 版本在全部六个基因组上平均 AUROC 都最高,比三个已发表 1 kb 基线高 1.0 到 3.8 个百分点;但跨物种时这部分上下文收益随分化衰减,到羊膜动物分歧处接近零,在 320 到 435 百万年间反转为负,而 1 kb 模型仍能迁移进鱼类。

  3. arXiv

    SAM 3 压到 4 比特后不再认错目标:SPQ 把 RefCOCO 命中率从 42.1 拉回 72.5

    把 SAM 3 的图像编码器权重量化到 4 比特、激活保持 8 比特后,模型常出现“提示对齐漂移”:掩码看着合理,却圈错目标或在视频中丢失同一对象。SPQ 在离线校准阶段给影响文本概念分数的参数更高权重、约束低方差残差方向上的特征误差,并用成对视频推演估计记忆接口的均值偏移后折入已有偏置。在 W4A8 设置下,RefCOCO Pr@0.5 由 PTQ4SAM 的 42.1 升到 72.5,同时保留 54.8 COCO mask AP,推理图不增加算子。

  4. arXiv

    地震速度反演不再只靠手工先验:扩散模型当投影算子,Marmousi平均绝对误差从94.80降到92.68

    全波形反演要从地震记录重建地下速度模型,但反演高度非线性且病态,初始模型不准或数据含噪时容易收敛到错误解。此前基于退火斯坦变分梯度下降的贝叶斯全波形反演用高斯或平滑等手工先验约束粒子,难以表达复杂地质结构。该工作把在GeoFWI数据集上训练的扩散模型作为隐式地质投影算子嵌入粒子更新,在Marmousi合成模型上把平均绝对误差从经典方法的94.80降到92.68,结构相似性从0.69升到0.72,并让后验不确定性更集中在深部与高对比界面附近。

  5. arXiv

    网络化平均奖励多智能体学习有了有限样本界:去中心化只能收敛到稳定点,强熵正则才回到全局最优

    网络化平均奖励多智能体强化学习中,每个智能体只用 k 跳邻域信息更新策略,此前这类设定只有表格型收敛到稳定点的结果。该工作先给出两个反例:即使环境完全合作、完全可观测且遍历,乘积局部策略仍可能停在次优局部最优;局部策略看不到全局状态时,梯度消失也不保证单边最优。随后为带线性评论家的去中心化演员—评论家算法给出有限样本稳定点界,并证明强固定状态熵正则可把保证提升为全局最优。

  6. arXiv

    海洋地震多次波压制改用自监督网络:不靠平滑约束,弱信号与波形连续性保得更完整

    海洋地震勘探中,SRME(表面相关多次波消除)先预测多次波,再用匹配滤波把它从原始记录中减掉;传统做法要么用固定长度的平稳滤波,要么用带局部平滑约束的非平稳回归,在信号快速变化处受限。PDL把这一匹配滤波换成由自适应匹配滤波方程引导训练的自监督神经网络,用分块方式把地震剖面切成大量小块训练,从而学到全局最优的非平稳匹配。在合成数据和Viking Graben实际数据上,PDL相对经典非平稳最小二乘匹配滤波减少了多次波残留,并更好地保留了弱有效信号和波形连续性。

  7. arXiv

    生成网格不再整张重画:只改有缺陷的面,四边形F1从0.294升到0.340

    生成式网格常带孔洞、游离面和重复面,MeshRepair 把草稿当作前缀、只自回归地输出删除与新增的编辑序列,在 LATO2 草稿上把四边形等价面 F1 从 0.294 提到 0.340,而规则修复工具让它持平或下降。

  8. arXiv

    语音大模型不再按固定帧率压缩:让边界策略跟着识别结果学,英文少用约四分之一音频词

    ASSET 用强化学习训练语音编码器的分段边界,在 LibriSpeech 上以约少 25% 的音频词达到接近字符边界 oracle 的识别率。

  9. arXiv

    机器人奖励不再被灯光和机位带偏:把任务相关动态从视频里拆出来,MetaWorld成功率94.3%

    DiTaR把视频奖励建在任务相关潜动态上,MetaWorld-v3最终成功率94.3%,高于最强视频奖励基线ReWiND的65.2%,并在真实机器人离线强化学习中把成功率从43.3%提到83.3%。

  10. Nature Communications

    脑激活图解码不再只给任务名:NiCLIP借认知本体同时输出任务、概念与域

    脑激活图的功能解码有了新做法:NiCLIP把神经影像文献文本与坐标生成的激活图放进同一潜在空间做对比学习,再借认知本体把相似度转成任务、概念和域的后验概率。此前常用的相关型解码器和GC-LDA依赖预计算元分析图与固定词表,只给出任务级预测。在人类连接组计划七个域的组水平图上,最佳配置的任务召回为62.86%,而Neurosynth与GC-LDA最高为20.71%;同一模型在个体水平激活图上表现明显下降。