研究系统评估 LLM 激活转向对抗鲁棒性

研究人员 Kien Le 和 Thai Le 发布论文，对大语言模型激活转向在对抗文本扰动下的鲁棒性进行了首次系统评估。该研究基于 Anthropic 模型评测数据集，覆盖了 4 种提取方法、3 种攻击策略及 1.5B 至 30B 的 5 个模型。 实验结果显示，模型表现存在明显短板：方向鲁棒性在扰动下下降最多达 64%，且攻击后置信度普遍低于 0.25。层选择策略同样表现为脆弱特征，最优层位置发生偏移最多达 17 个位置。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。