跳到正文
arXiv · AI· Peng Yu, Xiaoyu Wen, Zhida He, Ziyuan Zhou, Han Qi, Shao Zhang, Qiaosheng Zhang, Ying Wen, Chaochao Lu·· 2 天前AI 评分35

DACE:用于鲁棒LLM安全对齐的多样性驱动对抗共进化

DACE: Diversity-Driven Adversarial Co-Evolution for Robust LLM Safety Alignment

AI 导读

DACE提出多样性驱动的对抗共进化框架,通过策略层归一化边际覆盖增益奖励和统一贝叶斯对抗回放池,解决攻击策略坍缩与防御遗忘问题。 框架引入风险类别与攻击风格二维策略空间,并利用Beta-Bernoulli威胁后验结合时间衰减及Thompson采样更新回放池,以锚定动态威胁景观。 在标准安全、自动攻击者及通用能力基准测试中,DACE提升了分布外攻击的鲁棒性,保持通用能力并扩大了攻击者策略覆盖范围。

来源:arXiv · AI · arxiv.org