跳到正文
arXiv · NLP· Haitong Jiang, Chunlin Liu, Sihan Tang, Chan Wu, Xiaoqing Su, Yuhong Feng·· 2026-10-09AI 评分28

大语言模型安全评测中通过意图恢复区分非有害结果

Same Outcome, Different Evidence: Intent Recovery in LLM Safety Evaluation

AI 导读

非有害结果在 LLM 安全评测中不具备同等信息量。研究指出攻击成功率(ASR)无法区分模型因拒绝、未理解或回答其他原因导致的非有害输出。 引入操作性理解率(UR)与 ASR 配对分析,揭示 ASR 相似时意图恢复率存在巨大差异。

来源:arXiv · NLP · arxiv.org