跳到主要内容
检索

# 在线学习

7 篇关联报道

订阅更新
  1. arXiv

    反馈延迟又占内存,在线风险控制怎么撑住:CA-OCRC 用随机代理延迟,容量只需随最大延迟对数增长

    在线保形风险控制此前默认每轮损失都能及时、无损地拿到,但真实系统里反馈会延迟,跟踪待定预测的容量也有限,部分反馈因此永久丢失。CA-OCRC 把“跟踪哪些轮、跟踪多久”和预测集构造放在一起设计:每轮抽一个随机代理延迟,容量允许就跟踪到反馈到达或代理延迟到期,再用两级逆概率加权补偿丢失的反馈。理论分析给出任意延迟与随机延迟下的风险界,并据此优化代理延迟分布;在优化设计下,容量只需随最大延迟对数增长,就能达到无限容量 OCRC 的收敛速率。

  2. arXiv

    辩论训练协议首次被当作学习问题分析:辩手改为合作,某些情形下错误数可降到常数次

    辩论作为训练协议时,人类只判断两名辩手谁说得对,而不直接给标签。此前的工作只分析固定裁判下的辩论博弈,没有回答辩手如何学到正确函数。该研究把辩论写成在线学习问题,证明存在对抗式辩论学不会、而合作式辩论只需常数次错误的情形,并用一个新的组合维度刻画合作辩手在可实现情形下的最优错误上界。

  3. researchsquare.com

    浮标波高数据不再只靠固定阈值:单侧时序模型把质量控制分成三级,跨站迁移平均二值F1达0.856

    巴西沿海浮标网络的有效波高观测现在可以由一个在线时序模型逐小时给出GOOD、SUSPECT、BAD三级质量标记,而不再只依赖按物理限值和变化率设定的固定阈值。该模型只用当前值及其之前168小时的历史做单侧判断,在六座浮标合并的受控故障测试集上二值F1为0.853,留一浮标迁移到未见站点的平均二值F1为0.856。在逐小时流式模拟中,突变、乘性异常和哨兵码在发生当小时即被检出,漂移与传感器卡死则要等证据累积后才被识别。

  4. arXiv

    AFA-Bandit 将在线主动特征获取建模为组合式背包老虎机,LP-Chain 在合成数据上以线性规模链式搜索超越 HEDGE 与深度强化学习基线

    该工作把在线主动特征获取(AFA)建模为预测器耦合的组合式背包老虎机问题,在全局预算下同时决定特征获取与标签预测,并利用基数感知置信界与子集反馈结构得到比经典 BwK 更紧的遗憾上界;为规避指数级动作空间,作者提出 LP-Chain,用随特征数线性增长的代价感知链搜索候选子集,在合成高斯混合数据上其预测误差低于 HEDGE 式 BwK 与深度强化学习在线 AFA 基线。

  5. arXiv

    系统评测流式表格基础模型:TabFM+FIFO 在九个流上几乎全面领先,但服务延迟高出最快集成一个数量级以上

    该研究在统一的预序(先测后训)协议下,对表格基础模型(TFM)与流式学习器、流式 AutoML 在真实与合成数据流上做了系统对比,发现 TFM 预测精度最高、漂移后恢复更快、标签延迟下仍最准,但服务成本高出一个数量级以上;内存大小与骨干质量比内存管理策略更关键,而重复编码上下文是主要开销,用紧凑因果模型缓存已编码上下文可在精度接近的前提下让成本随内存近似恒定。

  6. arXiv

    JOVE 联合分配执行模型与付费验证,在四个推理基准上保持竞争性准确率的同时把平均成本与延迟降低至少 3.17 倍

    JOVE 是一个在线框架,把复杂推理查询分解为有向无环任务图并分配到异构 LLM 上执行,同时联合决定哪些中间输出送去付费验证;它通过求解逐查询的混合整数线性规划做执行与验证决策,用验证反馈在线更新任务相关的 LLM 质量估计,并以信息增益奖励把学习价值纳入分配,在长期预算与单查询延迟约束下取得次线性的质量学习遗憾,在四个推理基准上准确率与标准推理基线相当,平均成本与延迟至少降低 3.17 倍。

  7. arXiv

    无限参数 LLM:从实时数据生成并适配权重

    该工作提出“无限参数 LLM”架构:用一个紧凑超网络把运行时提供的数据(事实、指令、示例)编码为低维隐码,再由该隐码生成对共享基础前馈网络的低秩加性调制,从而在不存储专家库的前提下按 token 生成“专家”,并进一步对隐码维持一个贝叶斯信念、随会话在线更新,使有效权重在会话中持续演化;作者同时给出评估协议,把“把知识放进权重”与“把知识放进提示”在同等预算下直接对比。

已读完全部报道