跳到主要内容
检索

# 联想记忆

1 篇关联报道

订阅更新
  1. arXiv

    让大模型手写权重时,它不选Transformer:稀疏事实表在ARC上反超同源Transformer,参数还少约1800个

    在不做梯度训练、只给十个标注样例的条件下,三个前沿大模型被要求自行设计目标模型结构,结果都放弃了Transformer,转而把事实写成纯文本句子、编译成一张稀疏表,再由固定流程查表作答。Claude Opus 5.5设计的这类模型在ARC选择题测试集上准确率高于同一模型手写出的最准Transformer,参数还少约1800个;作者据此提出一种只读固定行数的联想记忆模型,在GPU上比同尺寸Transformer快至多17倍。

已读完全部报道