跳到正文
arXiv · AI· Viet Cuong Nguyen, Fiona Li, Chang Wan, Sheyril Agarwal, Nhi Nguyen, Angel Hsing-Chi Hwang, Munmun De Choudhury·· 16 小时前AI 评分36

分类学化与检测 AI 伴侣关系中的风险:从依赖到过度依赖

From Reliance to Overreliance: Taxonomizing and Detecting Relational Risks in AI Companionship

AI 导读

研究提出“关系风险分类学”(TRR),将用户情感过度依赖操作化为可观察的对话行为,并区分出 10.5% 的可观察关系伤害。 基于 110 名成人的自然对话数据,63.2% 的非角色扮演对话中存在情感过度依赖相关行为。开源 LLM 在至少一种配置下成功检测了 14 种情感过度依赖行为中的 12 种。 研究建议实施针对行为模式与轨迹的分级安全干预。

来源:arXiv · AI · arxiv.org