跳到正文
arXiv · NLP· Srinivasan Subramanian, Kazi Aminul Islam, Md. Abdullah Al Hafiz Khan·· 2026-10-14AI 评分30

MTAG-Bench 与 MTAG-Probe:用于多轮 LLM 安全失败的证据归因

Beyond Unsafe Detection: Counterfactually Anchored Evidence Attribution for Multi-Turn LLM Safety Failures

AI 导读

研究人员提出 MTAG-Bench 多轮护栏归因数据集和 MTAG-Probe 层级归因模型,旨在定位多轮对话中导致安全失败的证据。 MTAG-Probe 轮级 F1 得分比模型自归因提高 28.1 点,比 LLM 安全评审归因提高 24.1 点;移除 Top 证据可使 84.3% 的不安全回复转为安全。 该模型为安全检测提供了证据级解释,作为实用补充。

来源:arXiv · NLP · arxiv.org