arXiv · AI· Sangyeon Yoon, Wonje Jeung, Yoonjun Cho, Dongjae Jeon, Albert No·· 2026-10-15AI 评分58
Few-Shot Truly Benign DPO Attack for Jailbreaking LLMs:仅10条无恶意数据即可突破GPT-4系列模型安全对齐
Few-Shot Truly Benign DPO Attack for Jailbreaking LLMs
AI 导读
该论文提出了一种针对支持DPO(直接偏好优化)微调的LLM的新型越狱攻击方法。作者证明,仅使用10对无害的偏好数据(即正常有益回答优于拒绝回答),就能在OpenAI等模型中广泛抑制拒绝行为。
来源:arXiv · AI · arxiv.org