跳到正文
arXiv · ML· Md Mokarram Chowdhury, Ernie Chang, Yang Li·· 2026-10-16AI 评分40

角色扮演的安全继电器:对 LLM 拒绝机制因果分析

The Safety Relay in Roleplay Jailbreaks: A Component-Resolved Causal Analysis of Harm Recognition and Refusal

AI 导读

summary_zh: 研究发现成功实施的角色扮演越狱攻击会削弱模型在生成开始处的拒绝表达,该模式被称为“安全继电器衰减”。 研究基于 2 个基准、3 个模型系列,通过干预内部注意力头来验证因果关系,证实逆转特定内部变化可恢复模型拒绝功能。

来源:arXiv · ML · arxiv.org