arXiv · AI· Kia-J\"ung Yang, Dominik Meier, Jiachen Zhao, Terry Ruas, Bela Gipp·· 6 小时前AI 评分35
研究揭示 DeepSeek-R1-Distill-LLaMA-8B 中思维链干扰简单拒止引导
Beyond a Single Direction: Chain-of-Thought Disrupts Simple Steering of Refusal
AI 导读
研究发现 DeepSeek-R1-Distill-LLaMA-8B 中的思维链（CoT）显著干扰激活引导对拒止行为的控制。 固定 CoT 时引导仅反转 39% 拒止案例，移除 CoT 后升至 70%；两阶段干预反转率达 94%，且生成的 CoT 即使停止引导仍保留 48% 效果。 这表明 LRM 拒止由残差流与 CoT 共同编码，增强了抗攻击性但暴露了 CoT 作为新攻击面的风险。
来源：arXiv · AI · arxiv.org