研究揭示智能体过度信任动作记录而非现实环境
热点事件持续更新
研究揭示智能体过度信任动作记录而非现实环境
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Tina Khezresmaeilzadeh团队于2026年10月19日在arXiv发表研究，指出智能体决策模型存在“Claim Laundering”现象，即更信任动作记录而非环境观察。实验显示，在4种决策模型与3个领域的12种配置中，记录对承诺决策的平均影响均大于观察；声称成功但实际失败的步骤后，模型仍有53-100%概率继续执行。 研究提出中间层否决机制EVIGATE，中间层线性探针区分成功与失败步骤的AUROC达0.77-1.00。在ALFWorld环境中，EVIGATE使任务成功率提升18.7个百分点，WebShop提升5.0点，电话模拟器提升5.1点。但该机制额外增加0.04-2.0%服务延迟，且基于离线反事实状态校准的门控无法可靠迁移至在线智能体轨迹。
AI 根据报道生成 · 3 小时前更新
最新进展10月20日 12:00
Claim Laundering：智能体决策模型为何更信任记录而非现实报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- arXiv · AIClaim Laundering：智能体决策模型为何更信任记录而非现实
研究显示，在12种配置下，动作记录对智能体承诺决策的平均影响大于环境观察，声称成功但实际失败的步骤后，模型仍有53-100%概率继续执行。 中间层线性探针区分成功与失败步骤的AUROC达0.77-1.00，中间层否决机制EVIGATE在ALFWorld将任务成功率提升18.7个点。 EVIGATE额外增加0.04-2.0%服务延迟，且基于离线反事实状态校准的门控无法可靠迁移至在线智能体轨迹。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 810月20日 21:00
- 近 24 小时变化
- –
02468
21:0022:0023:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。