arXiv · AI· Viet Cuong Nguyen, Fiona Li, Chang Wan, Sheyril Agarwal, Nhi Nguyen, Angel Hsing-Chi Hwang, Munmun De Choudhury·· 16 小时前AI 评分36
分类学化与检测 AI 伴侣关系中的风险:从依赖到过度依赖
From Reliance to Overreliance: Taxonomizing and Detecting Relational Risks in AI Companionship
AI 导读
研究提出“关系风险分类学”(TRR),将用户情感过度依赖操作化为可观察的对话行为,并区分出 10.5% 的可观察关系伤害。 基于 110 名成人的自然对话数据,63.2% 的非角色扮演对话中存在情感过度依赖相关行为。开源 LLM 在至少一种配置下成功检测了 14 种情感过度依赖行为中的 12 种。 研究建议实施针对行为模式与轨迹的分级安全干预。
来源:arXiv · AI · arxiv.org