跳到正文
arXiv · ML· Tung-Ling Li, Hongliang Liu·· 13 天前精选AI 评分68

Logit-Gap Steering:用前向传播诊断大模型对齐鲁棒性的研究

Logit-Gap Steering: A Forward-Pass Diagnostic for Alignment Robustness

AI 导读

该论文提出Logit-Gap以第一解码步中最高拒绝token与最高肯定token的logit差值量化每个提示的安全边际。作者设计了一种无梯度、仅前向传播的后缀搜索方法,每个模型家族约需26000次前向传播等价量(约2分钟A100),比单次GCG搜索低约125倍。

推荐理由

提出Logit-Gap诊断度量安全边际,并以仅约125倍于GCG的算力即可发现可跨模型迁移的对抗后缀。

来源:arXiv · ML · arxiv.org