跳到正文
arXiv · AI· Giorgio Piras, Raffaele Mura, Fabio Brau, Maura Pintor, Luca Oneto, Fabio Roli, Battista Biggio·· 10 天前AI 评分31

潜空间攻击用于规避语言模型拒绝行为

Latent-space Attacks for Refusal Evasion in Language Models

AI 导读

文章提出控制潜空间规避攻击,将拒绝抑制重构为针对线性探针的潜空间规避攻击。 该攻击将模型表示投影至决策边界外的顺从区域,在15个指令微调、多模态及推理语言模型上取得高于现有基线的成功率。 此方法被NeurIPS 2026主会接收,有效解释了先前方法在潜空间变换上的局限。

来源:arXiv · AI · arxiv.org