arXiv · AI· Jinyuan Wang, Minh Duc Chu, Frances Ross, Ellen Fitzsimmons-Craft, Kristina Lerman·· 10 天前AI 评分23
开放权重 LLM 在饮食障碍交互中的 AI 安全系统性探索
Safer for Whom? A Systematic Exploration of AI Safety in Eating Disorder Interactions
AI 导读
针对 3 个开放权重 LLM 评估饮食障碍相关交互安全,显示无明确用户背景信息时,高风险回复频率约为有背景信息的 2 倍。 模型对不同种族、性别和 BMI 的回答差异显著,体型大小导致最大差异,且安全度因这些属性而异。 研究指出模型常基于刻板印象,对不符合“瘦白女性”特征的用户提供较少的保护性回复。
来源:arXiv · AI · arxiv.org