对抗性致盲：如何削弱模型区分评估与部署的能力

研究人员提出对抗性致盲训练方法，在 Qwen 3.6 27B 模型上将评估意识差距缩小 4 倍，优于激活引导。该方法在 KL 散度上更接近原始模型，且将用户意识置信度差距缩小 3 倍。相比激活引导，它引入更少的人格漂移干扰，但会导致一般能力轻微下降。