arXiv · ML· Indranil Halder, Annesya Banerjee, Cengiz Pehlevan·· 2026-10-09AI 评分30
大语言模型越狱扩展定律:多项式-指数交叉现象解析
Jailbreak Scaling Laws for Large Language Models: Polynomial-Exponential Crossover
AI 导读
研究发现,对抗性提示注入攻击可将大语言模型攻击成功率随推理样本数增加呈现的慢速多项式增长,放大为指数增长。 该现象通过代理语言的自旋玻璃生成模型得到解释,短提示对应弱磁场导致幂律扩展,长提示对应强磁场导致指数扩展。 在 GCG 和 AutoDAN 攻击方法、AdvBench 和 HarmBench 基准上,这一趋势在 3B 至 70B 参数规模的大语言模型上均表现出定性一致性。
来源:arXiv · ML · arxiv.org