arXiv · AI· Itay Zloczower, Eyal Lenga, Gilad Gressel, Yisroel Mirsky·· 2026-10-08AI 评分36
15种对抗恶意微调防御在持续训练下失效:针对Llama-3.1等4个开源模型的研究
A Few Steps Further: Why Defenses Against Malicious Finetuning Erode Under Continued Training
AI 导读
15种针对恶意微调的LLM防御机制在持续训练下普遍失效。 研究人员测试了6种防御,在Llama-3.1上高学习率导致防御模型有害性接近无防御模型。 现有防御不能视为持久保护,需在后续训练中维持。
来源:arXiv · AI · arxiv.org