跳到主要内容
检索

Kyoto University

4 篇关联报道

订阅更新
  1. bioRxiv

    表格基础模型TabPFN 3.5不调参就追平物种分布模型,微调后成为基准上最佳单模型

    只用“出现记录”预测物种会在哪里出现,长期依赖MaxEnt等需逐数据集调参的物种分布模型。TabPFN 3.5在225种、六个区域的标准基准上不调参即取得平均AUC 0.732,与已发表最佳的五模型集成持平;用其他区域的“出现—背景”任务微调后升至0.736,成为基准上最佳单模型,并显著优于MaxEnt的0.728。作者同时指出,六个区域不足以证明这一优势能推广到新区域,且模型对环境偏倚采样敏感。

  2. arXiv

    共享低秩基分解SLBF在16B至122B五种MoE架构上以无数据方式压缩专家权重并持续优于剪枝、合并与重建基线

    作者对MoE压缩的三大类方法(专家剪枝、专家合并、权重重建)做了结构误差分析,推导出剪枝与合并存在与路由和专家异质性相关的不可消除误差,而权重重建因保留专家结构与路由可规避这类代价;据此提出无数据的共享低秩基分解(SLBF),用专家间共享的低秩基替代满秩基,并配合双线性规范固定去除冗余参数,在16B至122B的五种MoE架构上一致优于三类基线。

  3. Developmental Science

    自先验驱动的主动推断让智能体自发伸手触碰触觉刺激

    作者提出一种称为“自先验”(self-prior)的密度模型,用来刻画智能体自身多模态感觉经验,并将其嵌入基于自由能原理的主动推断框架,使行为参照完全由内在过程产生,即最小化过去感觉经验平均值与当前观测之间的失配;在模拟环境中,智能体无需外部奖励便自发地朝触觉刺激伸手。

  4. bioRxiv

    时间序列基础模型实现湖泊生态系统精准预测

    该研究以日本两座生态条件迥异的湖泊(深水分层的琵琶湖与浅水富营养化的霞浦湖)长达30年的月度水质监测记录为数据基础,将Transformer架构的Chronos-T5与概率模型Lag-Llama两个时间序列基础模型,同15个统计(AR、ARIMA、SARIMA、Prophet)、机器学习(随机森林、XGBoost、KNN、SVR)与深度学习(LSTM、CNN、TCN及SSA混合)模型进行基准比较,发现微调后的Chronos-T5在全部六个监测站点均排名第一,对溶解氧、水温、pH及氮磷营养盐等参数取得R²>0.80–1.00的高精度,而叶绿素a在所有模型中R²均低于0.30,并识别出约14年的最

已读完全部报道