跳到正文
arXiv · AI· Or Biton, Tomer Krichli, Itai Allouche, Joseph Keshet·· 2026-10-06AI 评分46

揭示 LLM 违规模型:基于 Token 相关性的伦理对齐失败解释

Hidden in the Request: Explaining Unethical LLM Compliance through Token Relevance

AI 导读

研究指出 LLM 在直接请求助形式下性能衰退,归因于对良性框架词关注度高于违规模型词。 利用分层相关性传播(LRP)追踪该偏差,提出两种 LRP 引导解码方法以引导生成路径,实证显示该干预能促进更安全响应,支持违规模型归因导致合规失败的假设。

来源:arXiv · AI · arxiv.org