跳到正文
arXiv · NLP· Nafiz Ahmed, Sarah Sharif, Dingjing Shi, Mike Banad·· 2026-10-06AI 评分47

验证门控因果干预解释高风险大语言模型行为:自杀倾向检测案例研究

Validation-Gated Causal Interventions for Interpreting High-Stakes Large Language Model Behavior: A Case Study in Suicidality Detection

AI 导读

自杀倾向特征在 Llama-3.1-8B-Instruct 中表现为紧凑的中网络方向,可高于词库基线区分文本。 移除该方向使模型 AUC 从 0.975 降至 0.832,而随机方向无此效应。该方向在 Qwen 和 Mistral 中复现并追踪临床风险。 引导操作存在目标外读数干扰,混淆了充分性判断。

来源:arXiv · NLP · arxiv.org