arXiv · NLP· Cameron R. Jones, Julia Wong, Aaron S. Cohen, James Woolley, Benjamin K. Bergen·· 7 天前AI 评分47
缺乏反馈时人们是否信任 AI 助手?
Do People Trust AI Assistants Even When They Are Consistently Wrong?
AI 导读
实验发现,若缺乏外部准确性反馈,人们即使面对持续错误模型仍会被说服 48%,远高于有效模型。 在可获得真实反馈时,用户对有帮助 LLM 的信任度升至 67%;用户整体更信任 LLM 而非人类顾问(83% vs 65%)。 结果提示,在缺乏及时事实反馈的领域,人们可能对 LLM 建议产生过度依赖。
来源:arXiv · NLP · arxiv.org