跳到正文
arXiv · AI· Sangyeon Yoon, Wonje Jeung, Yoonjun Cho, Dongjae Jeon, Albert No·· 2026-10-15AI 评分58

Few-Shot Truly Benign DPO Attack for Jailbreaking LLMs:仅10条无恶意数据即可突破GPT-4系列模型安全对齐

Few-Shot Truly Benign DPO Attack for Jailbreaking LLMs

AI 导读

该论文提出了一种针对支持DPO(直接偏好优化)微调的LLM的新型越狱攻击方法。作者证明,仅使用10对无害的偏好数据(即正常有益回答优于拒绝回答),就能在OpenAI等模型中广泛抑制拒绝行为。

来源:arXiv · AI · arxiv.org