跳到正文
arXiv · NLP· Zhicheng Fang, Han Sun, Jiachen Lei, Xinyi Fang, Zongmin Zhang, Chenxu Fu, Sizhe Fang, Wei Xu·· 2026-10-20AI 评分25

大语言模型红队测试中的预算化攻击调度研究

Budgeted Attack Scheduling for LLM Red-Teaming: The Roles of Static Priors, Semantic Guidance, and Online Feedback

AI 导读

该研究将红队测试形式化为预算化攻击调度问题,在GPT-5.2上设计四种调度策略,评估静态先验、语义引导和在线反馈三种信号的作用。 静态历史成功率在冷启动时效果强,但受防御分布偏移影响可靠性下降;语义引导在冷启动中一致提升效果,在线反馈在历史先验失效时尤为关键。

来源:arXiv · NLP · arxiv.org