跳到正文
arXiv · NLP· Alexi Canesse, Mathis Le Bail, Ma\"el Jenny, Cl\'ement Elliker, Mahammed El Sharkawy, Sonia Vanier·· 2026-10-08AI 评分45

PatchBench:衡量激活补丁的附带损害

PatchBench: Measuring Collateral Damage in Activation Patching

AI 导读

研究团队发布 PatchBench 基准,旨在衡量大语言模型安全补丁在修复越狱漏洞时造成的附带损害。 该基准基于 37 个公共数据集构建,最终保留 400 个高置信度越狱失败案例。 配套协议 PatchBench-Local 通过生成邻域提示词,区分精准修复与过度抑制,揭示了聚合指标对局部行为退化的盲点。

来源:arXiv · NLP · arxiv.org