跳到正文
arXiv · ML· Chris Tava·· 3 天前AI 评分31

自适应 LLM 红队测试中攻击者多样性降低实验

Attacker Diversity Reduction in Adaptive LLM Red Teaming

AI 导读

使用 Qwen2.5-14B 攻击者和 Phi-4-mini 防御者,通过 LoRA 更新降低攻击多样性。 训练 12 轮后,攻击者多样性保留率(ADR)降至 0.61-0.63,低于 0.75 阈值。 尽管多样性降低,攻击成功率在每次训练后仍持续提升。

来源:arXiv · ML · arxiv.org