arXiv · ML· Ren-Jian Wang, Ke Xue, Zeyu Qin, Ziniu Li, Sheng Tang, Hao-Tian Li, Shengcai Liu, Zhi Yu, Yuanpeng Tan, Chao Qian·· 16 小时前AI 评分38
QDRT：针对大语言模型的自动化红队测试框架
Quality-Diversity Red-Teaming: Automated Generation of High-Quality and Diverse Attackers for Large Language Models
AI 导读
QDRT框架通过行为条件训练和多专用攻击者，生成比传统方法更多样且有效的对抗提示，用于测试LLM安全性。 该框架在GPT-4.1、GPT-5-Chat、Llama-3、Qwen2.5等开源及闭源模型上验证了有效性，超越了基于词频或嵌入相似度的简单多样性指标。 此方法为LLM的系统化安全评估提供了有效工具，支持人工智能的负责任部署。
来源：arXiv · ML · arxiv.org