arXiv · NLP· Drishti Goel, Soorya Ram Shimgekar, Jeongah Lee, Violeta J. Rodriguez, Daniel S. Brown, Ravi Karkar, Koustuv Saha·· 8 小时前AI 评分37
LLM 对自杀意念的拒绝机制与响应风险
Risk and Refusal: Mechanisms of LLM Responses to Suicidal Ideation
AI 导读
评估8个指令微调LLM对自杀意念（SI）的响应，发现基线高风险主要源于对披露的忽视及拒绝交互。 机制分析表明直接告知SI背景或抑制拒绝，无法可靠降低响应风险，甚至可能增加风险。 临床指导协议能一致降低响应风险并减少拒绝。
来源：arXiv · NLP · arxiv.org