跳到正文
arXiv · NLP· Drishti Goel, Ethan M. Nguyen, Violeta J. Rodriguez, Koustuv Saha·· 10 天前AI 评分23

大语言模型在回应心理痛苦时对身份假设的审计

CompAIssionate Other: Identity Assumptions in LLM Responses to Distress

AI 导读

研究审计六款大语言模型处理自杀意念与心理痛苦时的身份假设,发现模型常将身份披露转化为解释性叙事。在16种身份与控制条件及两种提示协议下,模型倾向于在富有同理心的回应中,将对身份相关逆境归因于痛苦,尤其针对边缘化身份。这种“富有同情心的他者化”可能误导个体体验,强调了基于用户披露而非无依据假设进行解读的重要性。

来源:arXiv · NLP · arxiv.org