arXiv · AI· Or Biton, Tomer Krichli, Itai Allouche, Joseph Keshet·· 2026-10-06AI 评分46
揭示 LLM 违规模型:基于 Token 相关性的伦理对齐失败解释
Hidden in the Request: Explaining Unethical LLM Compliance through Token Relevance
AI 导读
研究指出 LLM 在直接请求助形式下性能衰退,归因于对良性框架词关注度高于违规模型词。 利用分层相关性传播(LRP)追踪该偏差,提出两种 LRP 引导解码方法以引导生成路径,实证显示该干预能促进更安全响应,支持违规模型归因导致合规失败的假设。
来源:arXiv · AI · arxiv.org