跳到正文
arXiv · NLP· Yunkai Dang, Wanyu Zhang, Meiyi Zhu, Qi Fan, Tianyu Ding, Wenbin Li·· 9 天前AI 评分28

TERM:通过熵引导残差调制实现无目标越狱防御

TERM: Target-Free Jailbreak Defense via Entropy-Guided Residual Modulation

AI 导读

针对LLM越狱攻击,本文提出TERM无目标熵引导残差调制方法。该方法在推理时利用提示词校准的注意力熵偏差,自适应调整模型自身残差更新,避免了预定义安全方向。 在Llama、Qwen和Gemma模型上,TERM在7种越狱攻击和2个过度拒绝基准测试中提升了鲁棒性,且保持低过度拒绝率,具有适中的推理开销。

来源:arXiv · NLP · arxiv.org