跳到正文
arXiv · ML· Mrityunjay Shukla, Shubham Roy, Biswabandan Panda·· 6 小时前AI 评分43

LLVMhammer:通过 Rowhammer 攻击放大 LLM 推理延迟与成本

Amplifying Latency and Cost of LLM Inference via Rowhammer Attack

AI 导读

LLVMhammer 利用 Rowhammer 位翻转攻击 Triton 编译流水线,导致 LLM 推理延迟增加 4-16%,并造成永久性性能下降。 该攻击针对 Triton 缓存机制,具有跨 GPU 厂商通用性,可基于 Karnage 工具定位漏洞;在 Qwen2.5-7B-Instruct 等模型上验证了可行性。

来源:arXiv · ML · arxiv.org