arXiv · AI· Sizhe Chen, Yibo Peng, Jaewon Chang, Chawin Sitawarin, David Wagner·· 1 天前AI 评分45
SecPO：针对提示注入安全的原理性对抗训练
SecPO: Principled Adversarial Training for Prompt Injection Security
AI 导读
为防御提示注入，研究者提出 SecPO 损失并结合高效对抗训练管线。在三个 SoTA 自适应攻击中，对抗训练使 ASR 降低 1.5-14.5 倍，SecPO 损失相比 DPO 进一步降低 2.4-4.6 倍。
来源：arXiv · AI · arxiv.org