arXiv · ML· Gal Wertheizer, Rom Himelstein, Tomer Peretz, Avi Mendelson·· 23 小时前AI 评分41
AnchorRep：通过表征排斥防御 LLM 跨模型对抗迁移
AnchorRep: Defending LLMs Against Cross-Model Adversarial Transfer via Representation Repulsion
AI 导读
AnchorRep 利用 LoRA 适配器将有害提示表征推离冻结锚点模型，将跨模型攻击成功率降至 1.1%。 在 5 个模型及 4 类架构上验证，现有防御可能导致 77% 退化良性输出或 18% 过度拒绝，该方案无需对抗样本训练。 该方法表明通过塑造表征几何结构即可实现跨模型鲁棒性，无需针对特定攻击进行训练。
来源：arXiv · ML · arxiv.org