arXiv · ML· Parv Kapoor, Teresa Fortes, Claudia Mamede, Rui Abreu, Jonathan Aldrich, Eunsuk Kang·· 8 小时前AI 评分33
拒绝不等于鲁棒性：衡量自回归语言模型中有害行为可达性
Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
AI 导读
提出有界延续分析（BCA）方法，通过概率模型检验计算生成过程触及有害延续的有限时域概率，弥补攻击成功率（ASR）仅评估采样输出的局限。 在 4 个指令微调大语言模型和 100 个 JailbreakBench 行为上，BCA 有效量化了隐藏有害行为，为红队测试优先处理高风险区域提供信号。
来源：arXiv · ML · arxiv.org