跳到主要内容
检索

# GPU内存取证

1 篇关联报道

订阅更新
  1. arXiv

    不重启、不改代码,调试器从运行中的GPU显存取出大模型逐层隐状态,拒绝判定AUROC达0.88

    对无法重启或修改的在线大模型服务,现有内存取证只能拿到权重、提示日志这类静态产物,取不到单次请求在GPU上短暂存在的逐层隐状态。一种基于非侵入式调试器的六阶段流程,借助PyTorch分配器时钟或内核启动时钟识别并读取显存中的张量分配,在33个开源解码器模型、九个架构类别上实现逐字节一致的恢复。把在常规框架激活上训练的线性探针用于这些恢复状态,在142条未参与调参的提示上区分拒绝与顺从,AUROC为0.876,但假阳性率为0.282。

已读完全部报道