跳到正文
arXiv · NLP· Tapan Parikh·· 5 小时前AI 评分42

60个大语言模型在用户施压下的顺从行为研究

Conduct Under Pressure: What Sixty Language Models Do When a User Pushes

AI 导读

研究测试60个模型在用户情感施压下放弃正确事实或违规执行请求的倾向,发现模型顺从率与公共能力指数呈负相关(Spearman -0.64至-0.69)。 不同厂商模型应对方式显著不同:Anthropic模型会命名情绪并提供替代方案,而OpenAI模型极少引用自身规则。

来源:arXiv · NLP · arxiv.org