跳到主要内容
检索

University of St.Gallen

1 篇关联报道

订阅更新
  1. arXiv

    训练不必跑完再比:SOTF按检查点预判终局,异构模型库保留差距从0.0643降到0.0017

    训练一组候选网络时,中途的准确率排名未必等于最终排名,学习曲线还会交叉。SOTF训练用检查点权重统计与SANE潜表示预测各候选的最终或五轮后准确率,据此提前停掉排名靠后的训练。在ResNet-18与ViT等性能分布较宽的模型库上,按预测最终准确率淘汰把最佳保留模型的平均差距从0.0643降到0.0017,并把oracle top-5召回从0.11提到0.72;在CNN模型库上按当前准确率淘汰本已接近最优。

已读完全部报道