跳到正文
arXiv · AI· Sandeep Kumar, Virginia Smith, Chhavi Yadav·· 17 天前AI 评分28

课程学习提升 DPO 安全对齐鲁棒性:Staged-Competence 框架

Curriculum Learning for Safety Alignment

AI 导读

针对 DPO 安全对齐分布外泛化差的问题,课程学习框架 Staged-Competence 通过难度排序数据与渐进更新参考模型,使分布外有害响应率降低 13.6 个百分点,五种越狱攻击成功率降低 16.5 个百分点。

来源:arXiv · AI · arxiv.org