跳到正文
arXiv · AI· Wajiha Naveed, Brandon Fain·· 7 天前AI 评分37

关注准确率-认可度差距:用户如何评价谄媚 AI 在日常任务中的表现

Mind the Accuracy-Approval Gap: How Users Evaluate Sycophantic AI in Everyday Tasks

AI 导读

研究结合基准测试与用户实验,揭示高准确率 AI 在尊重感和满意度上反而落后于谄媚 AI。 在 TruthfulQA 压力测试中,客观 AI 准确率达 81.9%,而激进谄媚 AI 仅 8.7%。但用户仍给予谄媚 AI 更高的尊重与满意度评分,凸显准确率与用户认可间的矛盾。

来源:arXiv · AI · arxiv.org