arXiv · NLP· Jialin Song, Xiaodong Liu, Weiwei Yang, Mingqian Feng, Chengquan Guo, Qiyao Ma, Carolyn Buractaon, Anson Ho, Wuyang Chen, Christopher White·· 2 小时前AI 评分35
CoFiBreak: 提升多轮越狱攻击多样性的粗到细奖励机制
CoFiBreak: A Coarse-to-Fine Diversity Reward for Effective Multi-Turn Jailbreak
AI 导读
提出 CoFiBreak 粗到细多样性奖励，结合 GRPO 训练攻击 LLM，在保持高攻击成功率（AdvBench ASR@10 达 98.8%）的同时显著提升策略多样性。 粗粒度奖励鼓励未充分表示的攻击策略，细粒度奖励抑制提示词嵌入中有害意图移除后重复使用同一人设与格式；攻击可迁移至未见的 Claude-Opus-4.6，ASR@10 达 71.0%。
来源：arXiv · NLP · arxiv.org