跳到正文
arXiv · ML· Neel Rajani, Ivan Titov·· 3 天前AI 评分28

SP-EWC:基于低秩Fisher正则化的推理训练安全保障方法

Protecting Safety during Reasoning Training with Low-Rank Fisher Regularisation

AI 导读

提出SP-EWC方法,通过投影梯度至低秩子空间捕获非对角曲率,有效保护模型安全护栏。 该方法对比LoRA、ActSVD与cPCA三种子空间识别方式,结果显示使用cPCA的SP-EWC在维持安全性的同时显著减少过度拒绝。

来源:arXiv · ML · arxiv.org