跳到正文
arXiv · AI· Jingyu Liu, Jiaen Lin, Xiaopeng Wu, Kehan Chen, Chuan Yu, Yong Liu·· 12 小时前AI 评分31

语言智能体任务不敏感性诊断:上下文线索导致忽视任务需求

Diagnosing Task Insensitivity in Language Agents

AI 导读

研究显示语言智能体常依赖环境线索而非任务描述生成动作,即使任务描述被替换为无意义占位符,模型仍可能继续执行操作。 通过对比不同任务描述下的预测成本,提出的 TPNLL 方法增加了模型对任务描述的关注度,提升了分布外场景下的任务成功率。 该方法有助于增强语言智能体对任务需求的依赖性,减少因上下文预测偏差导致的决策失效风险。

来源:arXiv · AI · arxiv.org