arXiv · AI· Tina Khezresmaeilzadeh, Seyedarmin Azizi, Erfan Baghaei Potraghloo, Mehdi Kamal, Massoud Pedram·· 12 小时前AI 评分22
Claim Laundering：智能体决策模型为何更信任记录而非现实
Claim Laundering: When Agent Decision Models Trust Records Over Reality
AI 导读
研究显示，在12种配置下，动作记录对智能体承诺决策的平均影响大于环境观察，声称成功但实际失败的步骤后，模型仍有53-100%概率继续执行。 中间层线性探针区分成功与失败步骤的AUROC达0.77-1.00，中间层否决机制EVIGATE在ALFWorld将任务成功率提升18.7个点。 EVIGATE额外增加0.04-2.0%服务延迟，且基于离线反事实状态校准的门控无法可靠迁移至在线智能体轨迹。
来源：arXiv · AI · arxiv.org