CoFiBreak：提升多轮越狱攻击多样性的粗到细奖励机制

2026年11月2日，Jialin Song等人发布论文 CoFiBreak，提出了一种粗到细的多样性奖励机制，用于指导攻击型 LLM 生成多样化的多轮越狱策略。 该机制通过粗粒度奖励鼓励未充分表示的攻击策略，细粒度奖励抑制在人设与格式不变的情况下移除有害意图后重复使用同一策略，结合 GRPO 训练，在保持高成功率的同时显著提升策略多样性。 在 HarmBench 前沿受害者测试中，CoFiBreak 发现的独特成功细粒度策略数量是最强基线的 1.6 至 2.0 倍，AdvBench ASR@10 达 98.8%；攻击可迁移至未见的 Claude-Opus-4.6，ASR@10 为 71.0%。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。