神经数据分析不再逐模型手配:九个预训练模型排队上岗,阿尔茨海默三分类宏F1达57.16%
神经电生理预训练模型架构各异、输入格式互不兼容,实验室往往要逐模型手工配置才能比较。NS-Copilot 把九个脑电与脉冲预训练模型统一到一个自然语言接口下,由规划、编码、控制、解读四个智能体自动选模型、生成代码并闭环调优。在阿尔茨海默病、帕金森病和工作记忆解码三个基准上各跑8次,其主指标分别为宏F1 57.16%、平衡准确率71.32%和74.43%,均高于所列基线。
神经电生理预训练模型架构各异、输入格式互不兼容,实验室往往要逐模型手工配置才能比较。NS-Copilot 把九个脑电与脉冲预训练模型统一到一个自然语言接口下,由规划、编码、控制、解读四个智能体自动选模型、生成代码并闭环调优。在阿尔茨海默病、帕金森病和工作记忆解码三个基准上各跑8次,其主指标分别为宏F1 57.16%、平衡准确率71.32%和74.43%,均高于所列基线。
作者提出 TACO 优化器,在维度归一化的 1→1 算子范数下取二维权重矩阵每列最大幅值元素的符号作为精确最速下降方向,仅保留每列少量低精度梯度分量,在 OPT-13B 上把持久优化器状态相对 AdamW8bit 减少 174 倍(27.7 GB 降至 0.16 GB)、峰值训练内存减少 2.9 倍(80.6 GB 降至 27.5 GB),精度与运行时间相当,并支持在单张 80 GB H100 上对 30-32B 参数模型做全参数微调。
该工作提出 MILO 压缩框架,利用多示例上下文中的低秩冗余,以块为粒度压缩 KV 缓存,并按信息熵动态分配秩预算,在 Qwen2.5 模型上实现最多 50% 的 KV 缓存内存下降与 1.8 倍吞吐提升,在分类与推理基准上性能下降可忽略,并显著优于既有基线。
该研究提出一种稀疏监督的AI框架,用冻结的超声基础模型(USFM,ViT-B)为每帧提取768维特征,交给轻量双向LSTM时间头输出0到1的帧质量分数,并以高斯软标签(在专家标注的关键帧处取峰值、随帧距平滑衰减,宽度σ=5帧)训练;在18名受试者、323段超声扫查视频(覆盖9种受控采集扫查类型、约45,500帧)的受试者级五折交叉验证中,该方法在含关键帧的扫查里以82.2%的Hit@1选出可用帧、平均最小距离3.07帧,超过最强无训练基线(USFM特征余弦相似度49.2%)与硬标签模型(71.9%)。
已读完全部报道