arXiv · AI· Yichen Sun, Qirui Liu, Yan Wang, Jianan Lin, Linbo Jiang, Shiyu Wang, Zhibo Wang, Zhixuan Chu·· 14 天前AI 评分25
SAVeR²:基于可验证奖励的大推理模型安全对齐方法
SAVeR$^2$: Reasoning-based Safety Alignment for Large Reasoning Models via Verifiable Rewards
AI 导读
提出SAVeR²方法,通过分解安全目标为四个可验证奖励信号并引入梯度投影机制,消除安全税。 实验覆盖1.5B至671B模型,证明其在多个基准测试中实现更优的安全性,且显著降低过度拒答率,不损害通用推理能力。
来源:arXiv · AI · arxiv.org