跳到主要内容
检索

# 基础模型

8 篇关联报道

订阅更新
  1. Hacker News

    不用出声也能对电脑说话:Subvocal 把射频信号送进嘴里,读出默念的口型

    Subvocal 公司把无声语音输入从贴脸电极换成射频传感:眼镜向面部发射类似蓝牙的无线电波,电波穿过舌头、嘴唇和软腭时被默念口型调制,模型再把扰动解码成文字。团队称此前贴电极方案受汗液、电干扰和佩戴位置影响,而不同人脸解剖结构差异大,最终靠扩大预训练数据改善跨用户表现,演示者只用约20句校准。

  2. arXiv

    用基础模型做评论家骨干,随机接入网络的多智能体强化学习收敛提速至少55%

    该工作提出一种基础模型辅助的全去中心化多智能体强化学习框架:以自监督前向动力学预训练的基础模型作为评论家网络的奖励无关骨干,设备仅通过局部共识交换标量奖励,在公平AoI、最大和速率与公平速率三个随机接入优化任务上给出有限时间收敛分析,并报告收敛速度相对端到端训练提升至少约55%。

  3. arXiv

    BLS 在测试时精炼任务向量,使零样本策略在 OGBench、DMC 与 HumEnv 上超越 OLS 与在线自适应基线

    作者提出 BLS:一种面向行为基础模型(BFM)的离线零样本任务推断方法,它先用最小二乘(OLS)得到任务向量,再用软间隔对比损失与信赖域损失联合优化该向量,以同时降低奖励重建误差与后继测度偏差;理论上给出由后继测度残差与奖励残差共同刻画的次优性上界,实验在 OGBench 的 5 种特征表示(本体感知与像素观测)、DMC 的 20 个任务与 HumEnv 的 45 个人形控制任务上平均优于 OLS、ZOL、ReLA 与 LoLA,且推理开销可忽略。

  4. arXiv

    FairRSFM用生物群系分组评测三款遥感基础模型,发现总体指标掩盖了生态区域间的性能落差

    作者提出FairRSFM,把四个遥感下游数据集(m-EuroSAT、m-BigEarthNet、m-SA-Crop-Type、MMEarth20K)的地理坐标样本映射到14类陆地生物群系并归并为六个宏观组,在冻结骨干的统一协议下用三个随机种子评测Prithvi-EO-2.0、SatMAE与DOFA,结果显示总体指标一致地掩盖了生物群系相关的性能差异,例如Prithvi-EO-2.0在m-EuroSAT上总体macro-F1较高而最差组分数明显更低,并比较了BOLP、DBR与GroupDRO三种缓解基线,其效果随模型与任务而异。

  5. OpenBox 用二维视觉基础模型做跨模态实例对齐,在三个自动驾驶数据集上无需自训练即生成更准更省的三维框标注

    OpenBox 提出一个两阶段自动标注流程:第一阶段借助二维视觉基础模型,通过跨模态实例对齐把二维图像中的实例级线索与对应三维点云关联起来;第二阶段按刚性与运动状态对实例分类,并用类别特定的尺寸统计生成自适应三维包围框,从而在无需自训练的情况下产出高质量三维框标注,并在 Waymo Open Dataset、Lyft Level 5 Perception 数据集和 nuScenes 数据集上相对基线取得精度与效率的提升。

  6. 研究者提出SBSE与AI基础模型融合的研究路线图,围绕三大方向梳理现状与开放挑战

    该文以研究路线图的形式,梳理了约25年历史的搜索基础软件工程(SBSE)与AI基础模型(FMs,如大语言模型)之间的关系现状,围绕三个核心方面展开分析——用FMs增强SBSE、用SBSE推进FMs、以及探索二者的集成,并指出开放挑战与潜在研究方向,展望FMs时代SBSE的未来。

  7. 从经典分子描述符出发的低数据区制深度学习基础模型

    该研究提出一种新的基础模型预训练路径:在低噪声、可计算的分子描述符上以监督学习方式进行预训练,以获得丰富且高度可迁移的分子表征,并以约一千万参数的 CheMeleon 模型加以验证;在来自产业界 Polaris 基准计划的 58 个覆盖小分子药物发现相关性质的数据集上,CheMeleon 使有向消息传递神经网络在低数据区制下终于超过经典方法,并在严格统计比较中优于基于分子指纹与描述符的随机森林等经典基线以及已有基础模型,同时模型与预训练框架已开源。

  8. 面向肝病学的AI虚拟细胞:单细胞模型中的表征、生成、动力学与干预

    这篇综述将当前通往肝脏AI虚拟细胞(AIVC)的研究组织为三条互补建模路线——生成模型表征细胞状态、动力学与转运模型推断状态转换、预训练或基础模型检验表征能否跨供体、病因、疾病阶段与平台迁移——并以扰动响应预测作为贯穿性评估,指出已发表模型仅展示了图谱整合、轨迹推断、可迁移表征与回顾性响应程序等单个组件,尚不构成经前瞻性验证的肝脏模拟器,近期应优先用于实验选择与假设生成,临床决策支持仍是更长期目标。

已读完全部报道