跳到主要内容
检索

# 循环音频频谱Transformer

1 篇关联报道

订阅更新
  1. arXiv

    LAST 用循环复用同一组 Transformer 块只精炼类别 token,在 AudioSet 上以少 49.4% 参数超过十二层顺序模型 2.1%

    LAST 先处理全部 token,再复用同一组块在固定音频特征上只精炼类别 token,使后续轮次开销很低;在 AudioSet 上十轮 LAST 达到 0.345 平均精度,相对十二层顺序 Transformer 提升 2.1%,同时参数少 49.4%、乘加运算少 42%、实测吞吐高 9.8%,并且从两轮到十轮增加精度而计算量仅增 1.2%,对时间掩蔽等听觉增强更稳健,在音乐、环境与事件声音分类上泛化更好。

已读完全部报道