arXiv · AI· Hanbin Hong, Shuang Wu, Shuya Feng, Nima Naderloui, Shenao Yan, Jingyu Zhang, Ali Arastehfard, Heqing Huang, Yuan Hong·· 2026-10-14AI 评分36
系统梳理 LLM 提示安全:分类体系、数据集与攻击防御统一评估
SoK: Systematizing LLM Prompt Security: Taxonomies, Datasets, and Unified Evaluation of Attacks and Defenses
AI 导读
研究梳理 272 篇文献构建分类体系,发布开源平台 PromptSecurity 及 JailbreakDB 数据集。 JailbreakDB 含 445,752 条越狱提示对,评估覆盖 11 个模型与 20 种攻击,指出 ASR 受评判器配置影响。 强调配置感知报告必要性,避免无上下文的方法排名。
来源:arXiv · AI · arxiv.org