arXiv · ML· George Ruellan, Diana Benavides-Prado·· 9 小时前AI 评分22
序贯微调中的安全保持：Replay 与蒸馏的析因及几何分析
Preserving Safety During Sequential Fine-Tuning: A Factorial and Geometric Analysis of Replay
AI 导读
研究分离评估了 Replay 暴露与 Logit 蒸馏在序贯 LoRA 微调和 Mistral-7B、Llama-3-8B 模型中保持安全的机制。 Replay 导致 Mistral 模型 HarmBench ASR 平均下降 51.1 点，但过度拒绝率上升 53.4 点；蒸馏策略可将 ASR 降幅控制在 5.4 点，过度拒绝仅增加 5.1 点。
来源：arXiv · ML · arxiv.org