跳到主要内容
检索

# 脉动阵列

2 篇关联报道

订阅更新
  1. arXiv

    Atik 把矩阵乘与注意力压进同一块定点 MAC 网格:在 Rocket 核上注意力峰值加速 225.8 倍

    开源加速器 Atik 以 RoCC 方式挂在 RISC-V 的 RocketChip 核旁,用一块共享定点 MAC 网格同时执行稠密矩阵乘、注意力打分与概率-值累加,外部张量保持 BF16 接口。相对同一 Rocket 核上的 BF16 标量参考实现,88 配置在 FireSim 逐周期仿真中取得 31.5 倍矩阵乘峰值加速和 225.8 倍注意力峰值加速;ViT、TinyBERT、GPT-2 prefill 的 44.2、77.1、32.3 倍是混合投影,不是整模型硬件回放。

  2. arXiv

    MIAO 让累加器逐行变窄:MX 脉动阵列面积最多省 38.7%,困惑度只多 1.06%

    MIAO 把 MX 量化脉动阵列的浮点累加精度从全阵列统一改为按行分配,并联合选择乘积精度,在端到端困惑度约束下搜索面积与能耗最低的配置。相对全 BF16 中间运算基线,MXFP8、MXFP6、MXFP4 下处理单元阵列面积最多减少 38.7%、每次运算能耗最多减少 36.1%;相对仅量化操作数的 MX 基线,额外困惑度退化最多 1.06%。在 TinyLlama 上选出的配置不经重新调参用于另外五个模型,额外困惑度退化最多 1.6%。

已读完全部报道