arXiv · AI· Sandeep Kumar, Virginia Smith, Chhavi Yadav·· 17 天前AI 评分28
课程学习提升 DPO 安全对齐鲁棒性:Staged-Competence 框架
Curriculum Learning for Safety Alignment
AI 导读
针对 DPO 安全对齐分布外泛化差的问题,课程学习框架 Staged-Competence 通过难度排序数据与渐进更新参考模型,使分布外有害响应率降低 13.6 个百分点,五种越狱攻击成功率降低 16.5 个百分点。
来源:arXiv · AI · arxiv.org