跳到正文
arXiv · NLP· Haoyi Wu, Yunkai Dang, Wanyu Zhang, Lei Wang, Wenbin Li·· 9 天前AI 评分20

TERM: 无目标熵引导残差调节增强 LLM 越狱防护

POEM: Output-Relative Block-Sparse Attention for Long-Context Prefilling

AI 导读

研究提出 TERM 推理时防御机制,利用提示词校准注意力熵偏差自适应调节模型残差更新,无需预设安全方向。 在 Llama、Qwen(含 Qwen3 0.6B 至 32B)和 Gemma 模型上,对比 7 种防御方法对抗 7 类越狱攻击,结果显示该方法在提升越狱鲁棒性的同时保持低过度拒绝率,且推理开销适中。

来源:arXiv · NLP · arxiv.org