RWKV长程预测会衰减:交替插入注意力块,36M参数在GIFT长程追平1B模型
HART把Transformer块与RWKV块交替堆叠,让预测区直接检索历史,在GIFT-Eval与TIME-Benchmark的中长程上优于纯RWKV,并以36M参数在GIFT长程取得与Toto-2.0-1B相当的MASE。
HART把Transformer块与RWKV块交替堆叠,让预测区直接检索历史,在GIFT-Eval与TIME-Benchmark的中长程上优于纯RWKV,并以36M参数在GIFT长程取得与Toto-2.0-1B相当的MASE。
该研究在训练队列(n=186)、验证队列(n=116)和前瞻性多中心验证队列(n=269)中,从治疗前T2加权MRI提取影像组学与监督深度学习特征,比较人工开发与GPT辅助的建模流程,发现融合特征在两种逻辑回归模型中AUC最高(训练队列0.759对0.763±0.003,验证队列0.714对0.741±0.008,前瞻性多中心验证队列0.700对0.706±0.004),GPT辅助流程在五种分类器上与人工开发模型性能大致相当,且五次重复运行的AUC标准差为0.001至0.019,表明在专家监督下GPT可自动化影像组学建模的关键步骤。
已读完全部报道