KernelArmor 给 CUDA 内核补上安全证明:cuCatch 内存错误全部检出,优化循环仍保住 99% 加速
核心概要
KernelArmor 把大模型生成的注解与扩展后的 SMT 验证器 VerCors 结合,在显式契约下判定优化 CUDA 内核的内存与线程安全。在 740 个实例、1370 个生产级内核上,它报告 78.6% 的实例存在潜在缺陷,并为 11.4% 建立安全证明;在 cuCatch 内存安全基准上检出全部 56 个错误,在 cuHadron 范围内检出全部 14 个数据竞争。把它放进智能体优化循环后,77 条轨迹都产出通过验证的内核,几何平均加速保留 99%。
深度剖析
优化过的 CUDA 内核即使通过测试,也可能残留隐蔽的内存与并发缺陷,KernelArmor 用形式化验证在显式契约下给出内存与线程安全的判定,而不只依赖跑过的输入。 此前的动态工具如 NVIDIA Compute Sanitizer 只能在执行中观察错误,覆盖受输入与所支持错误类别限制,一次干净运行不能说明未测输入与路径上没有错误。 在 740 个实例、1370 个内核上,KernelArmor 对 84 个实例完整建立安全、对 582 个报告潜在缺陷、对 74 个给出不确定结论;在 cuCatch 基准的 56 个内存安全错误上检出 56 个,而 Compute Sanitizer、GMOD、GPUShield、cuCatch 分别为 20、8、24、40 个。
工作流先由确定性前端扫描并规约 CUDA 代码,再由大模型提出前置条件、后置条件、循环不变式与同步注解,交给 VerCors 检查。 VerCors 是基于权限分离逻辑的演绎验证器,原本只覆盖 CUDA 的一小部分;优化内核常用的张量核指令、打包访问、warp 同步、异步拷贝与库调用落在其模型之外。 扩展覆盖异步拷贝的待完成资源、__syncwarp 掩码内的屏障、动态共享内存与线程局部参数、指针算术的字节偏移、打包访问的对齐要求,以及 cuBLAS、cuBLASLt、CUTLASS、WMMA 与 PTX 的类型化安全契约,实现改动约 20.6 KLOC,支持 CUDA 13.1。
验证器返回的源码级诊断区分三类结果:应当修复的潜在缺陷、验证器未能完成的证明、以及超出其模型的构造,智能体据此定向修改注解或实现。 若把这三类混为一谈,要么放过不安全代码,要么把智能体引离正确的优化方向。 在 11 个 KernelBench 任务、每个任务 7 条轨迹的优化循环中,受验证门控的一支在全部 77 条轨迹上产出通过验证的内核,几何平均加速为无约束一支的 0.99;无约束一支只有 12 条轨迹最终内核通过验证。
启示与展望
演示范围是三个基准套件共 740 个实例、1370 个生产级 CUDA 内核,以及 11 个 KernelBench 任务上的智能体优化循环;安全结论以显式前置条件、后置条件和所支持的 CUDA 模型为条件。cuHadron 中跨流、CPU 与 GPU、多 GPU 的 9 个竞争测试超出当前分析范围。
cuHadron 上 KernelArmor 对全部 23 个含竞争的测试覆盖 61%,低于 SuperCollider 的 87%,但在范围内的 14 个测试上全部检出且对 4 个无竞争对照无误报。KernelBench 的 60 个不确定结论用尽了 12 轮修复预算,矩阵与融合 GEMM 工作负载占其不确定结论的 75%,指向库建模的局限。单次验证中位耗时 12 分钟,门控轨迹在 KernelArmor 上中位花费 1.45 小时。
