arXiv · AI· Muhammad Zeeshan Karamat, Christiana Chamon Garcia·· 2026-10-08AI 评分33
LLaMA-2-7B-Chat 本地安全参数定位与稀疏故障分析研究
How Fragile Is On-Device Language Model Safety? Localizing Safety-Critical Parameters for Sparse Fault Analysis
AI 导读
研究发现 LLaMA-2-7B-Chat 的安全敏感行为高度集中于稀疏参数子集。 定位结果显示 MLP down_proj 是最关键的安全组件。仅修改该组件 0.19% 的权重,即可导致 53% Basic ASR 和 56% GCG ASR 的攻击成功率。
来源:arXiv · AI · arxiv.org