arXiv · ML· Mohammad Sadegh Akhondzadeh, Soroush H. Zargarbashi, Aleksandar Bojchevski·· 8 小时前AI 评分30
对抗自蒸馏：强化大语言模型对抗攻击的防御能力
Adversarial Self-Distillation
AI 导读
提出对抗自蒸馏（ASD）方法，通过扩展模型自身的安全行为至对抗扰动空间来防御攻击。 该方法将模型在干净提示下的拒绝能力蒸馏至受攻击状态，即使面对顺从性的预填充也能恢复拒绝。 ASD 实现了比当前最先进防御方法更低的攻击成功率，且仅造成选择题准确率的小幅损失。
来源：arXiv · ML · arxiv.org