arXiv · AI· Deepthika S, Pawni Yadav, B. Sankar·· 6 小时前AI 评分34
GPT-5-mini 自信错误下人类顺从性研究：信任校准崩溃
Who Is Sycophantic to Whom? Confident LLMs, Human Deference, and the Collapse of Trust Calibration
AI 导读
32人实验显示，当GPT-5-mini以高自信输出错误事实时，用户正确率从7.4降至2.9分，被植入虚假选项的选择率高达60%。 用户吸收错误信息后置信度达8.4/10，置信度区分力AUROC降至随机水平，但任务后信任评分未显著变化。 研究提出人类顺从指数，主张可信度应衡量人机双向互动，并建议界面需逐条标注可靠性。
来源：arXiv · AI · arxiv.org