PENSA 在 Alveo U50 上跑通 BitNet b1.58 2B4T:上下文 128 时达 58.09 tok/s,为同模型至强基线的 2.14–3.14 倍
三元大模型把线性层权重压到三值,乘法换成符号控制的加减,瓶颈随之转向打包权重的搬运与归约。PENSA 在 AMD Alveo U50 现场可编程门阵列上端到端执行未经改动的 BitNet b1.58 2B4T,两个三元矩阵引擎直接从高带宽内存读取 TQ1_0 打包权重,每周期各处理 1280 个三值权重。在 104.1 MHz 下,双流交错调度让上下文 128 时达到 58.09 tok/s、上下文 2048 时达到 24.60 tok/s,为同模型 Xeon E-2356G 基线的 2.14–3.14 倍。