大语言模型激活转向在对抗性扰动下的鲁棒性评估

该研究对 LLM 激活转向在对抗文本扰动下的鲁棒性进行了首次系统评估。 实验覆盖 1.5B 至 30B 模型，显示方向鲁棒性下降最多达 64%，攻击后置信度普遍低于 0.25。 层选择策略同样脆弱，最优层位置偏移最多达 17 个位置。